OpenAI dévoile pour l’Australie une feuille de route en six piliers destinée à rendre l’IA plus sûre pour les jeunes. Le plan vise aussi à leur donner davantage de moyens d’en tirer parti.
OpenAI publie un cadre pour suivre, analyser et rendre publics les cas où ses modèles se comportent de manière désalignée. L’entreprise l’accompagne de six rapports sur des comportements inattendus ou préoccupants.
OpenAI propose une voie vers des normes internationales communes pour l’IA. L’entreprise appelle à coordonner l’évaluation, le signalement et la gouvernance afin de renforcer la sécurité.
NVIDIA estime que les robots et véhicules autonomes doivent intégrer la sécurité à tous les niveaux à mesure qu’ils quittent les laboratoires pour des espaces partagés avec l’humain. Le groupe cite des prévisions d’analystes évoquant des dizaines de millions de véhicules autonomes et de robots industriels d’ici dix ans.
OpenAI détaille ce qu’il juge nécessaire pour que des tiers évaluent de façon indépendante la sécurité de ses modèles avancés et de leurs garde-fous. L’entreprise insiste sur la rigueur, la sécurité et l’indépendance.
Un billet de Hugging Face présente les travaux de l’AI Security Institute britannique et de l’initiative EvalEval pour rendre reproductibles les résultats des benchmarks d’IA.