OpenAI présente MentalHealthBench
OpenAI publie MentalHealthBench, un banc d’essai conçu avec des experts. Il mesure si les réponses d’une IA sont utiles et sûres dans des conversations réalistes portant sur la santé mentale.
À lire aussi
L’intervention de Sam Altman devant le Conseil de sécurité de l’ONU
Le patron d’OpenAI, Sam Altman, s’est exprimé devant le Conseil de sécurité des Nations unies. Il a abordé la sécurité de l’IA, le maintien du contrôle humain et la nécessité d’une coopération internationale.
OpenAI ouvre ses outils de cyberdéfense à l’Ukraine pour protéger les infrastructures civiles
OpenAI donne accès à son programme Daybreak au gouvernement ukrainien. Il s’agit de soutenir la cyberdéfense des infrastructures civiles du pays.
Private AI Compute se dote d’une mémoire sécurisée côté serveur
Google ajoute une mémoire privée côté serveur à Private AI Compute, son infrastructure dédiée à l’IA personnelle. La fonction est conçue pour protéger les données des utilisateurs.
Les priorités et principes d’OpenAI pour des évaluations externes efficaces
OpenAI détaille ce qu’il juge nécessaire pour que des tiers évaluent de façon indépendante la sécurité de ses modèles avancés et de leurs garde-fous. L’entreprise insiste sur la rigueur, la sécurité et l’indépendance.
Comment l’AISI britannique et EvalEval rendent les résultats de benchmarks reproductibles
Un billet de Hugging Face présente les travaux de l’AI Security Institute britannique et de l’initiative EvalEval pour rendre reproductibles les résultats des benchmarks d’IA.