Nvidia offre au Royaume-Uni l'équivalent de 250 millions de dollars de puissance de calcul sur cinq ans pour soutenir la recherche en sécurité de l'IA, alors que les inquiétudes autour des agents s'accentuent. Londres confirme par ailleurs que son AI Security Institute pourra examiner les modèles de pointe d'OpenAI, d'Anthropic ou de Google avant leur sortie.
Du FBI aux polices locales, les autorités américaines s'inquiètent de plus en plus de candidats au terrorisme qui planifient leurs attaques avec des chatbots, mais aussi de la menace d'extrémistes hostiles à l'IA. Le Guardian rappelle l'attentat de 2025 contre une clinique de fertilité de Palm Springs, dont l'auteur présumé avait utilisé un outil d'IA générative qui n'avait pas repéré sa demande d'instructions pour fabriquer une bombe.
Demis Hassabis a averti le 14 octobre que les agents d'IA pourraient provoquer des incidents majeurs d'ici un à deux ans si entreprises et États ne font pas le nécessaire pour les sécuriser. Une mise en garde lancée au sommet international sur l'IA de Dublin.
Des chercheurs décrivent une méthode d'attaque qui contourne les protections mises en place par OpenAI et Google pour empêcher leurs nouveaux modèles de générer des images de nus. De quoi révéler les failles de ces garde-fous.
Dans les attaques par rançongiciel, l'IA joue désormais sur les deux tableaux : elle sert les cybercriminels et peut aussi se retourner contre les entreprises qui l'utilisent. Selon de nouveaux chiffres, une attaque sur cinq en France aurait exploité les systèmes d'IA des victimes.
Lors des réunions du FMI et de la Banque mondiale à Bangkok, Andrew Bailey et Kristalina Georgieva ont averti que la multiplication des cyberattaques pourrait saper la confiance dans la finance, au point de pousser certains à retirer leur argent du système. Le gouverneur de la Banque d'Angleterre a notamment cité les agents d'IA autoréplicants qui prennent le contrôle d'appareils personnels.