OpenAI détaille ce qu’il juge nécessaire pour que des tiers évaluent de façon indépendante la sécurité de ses modèles avancés et de leurs garde-fous. L’entreprise insiste sur la rigueur, la sécurité et l’indépendance.
Un billet de Hugging Face présente les travaux de l’AI Security Institute britannique et de l’initiative EvalEval pour rendre reproductibles les résultats des benchmarks d’IA.
NVIDIA estime que les robots et véhicules autonomes doivent intégrer la sécurité à tous les niveaux à mesure qu’ils quittent les laboratoires pour des espaces partagés avec l’humain. Le groupe cite des prévisions d’analystes évoquant des dizaines de millions de véhicules autonomes et de robots industriels d’ici dix ans.
OpenAI propose une voie vers des normes internationales communes pour l’IA. L’entreprise appelle à coordonner l’évaluation, le signalement et la gouvernance afin de renforcer la sécurité.
OpenAI publie MentalHealthBench, un banc d’essai conçu avec des experts. Il mesure si les réponses d’une IA sont utiles et sûres dans des conversations réalistes portant sur la santé mentale.
Le patron d’OpenAI, Sam Altman, s’est exprimé devant le Conseil de sécurité des Nations unies. Il a abordé la sécurité de l’IA, le maintien du contrôle humain et la nécessité d’une coopération internationale.