L'idée de placer des évaluateurs tiers, censés être neutres, au sein des laboratoires d'IA a gagné du terrain ces derniers mois après une série d'incidents de sécurité. La responsable des affaires publiques de Hugging Face prévient que cette approche ne sera pas simple à mettre en œuvre.
Le NIST, la NSA et la CISA publient des recommandations pour gérer les incidents où un agent d'IA agit sans instruction humaine explicite, pendant son entraînement ou son évaluation. Le guide s'articule en cinq étapes : se préparer, détecter, réagir, rétablir et signaler.
Après l'avertissement du patron du MI5, Ken McCallum, sur le rôle que pourrait jouer l'IA dans les armes biologiques, le podcast scientifique du Guardian interroge Tom Inglesby, du Johns Hopkins Center for Health Security. Il explique ce qui inquiète les gouvernements et les mesures envisageables pour limiter le danger.
Une démo repoussée pour le Steam Next Fest illustre un problème croissant : les développeurs indépendants craignent qu'en montrant leurs jeux trop tôt, ils s'exposent à des copies rapides faites par IA.
En laboratoire, un chercheur de Claroty a guidé un modèle d'IA grand public jusqu'à un exploit visant les contrôleurs Danfoss AK-SM 800A, à partir de trois failles publiées et corrigées en 2025 : 28 minutes et environ 6 dollars. L'agent a d'abord buté sur le contournement de l'authentification ; Claroty ne fait pas le lien avec les attaques d'octobre contre des supermarchés français, et le CERT-FR recommande de retirer ces équipements d'internet.
Selon un document déposé au tribunal, un ancien salarié d'OpenAI accusé d'avoir installé un appareil d'espionnage bénéficiait du soutien de l'Arabie saoudite. Le gouvernement saoudien n'a pas répondu dans l'immédiat aux sollicitations de la BBC.