Demis Hassabis a averti le 14 octobre que les agents d'IA pourraient provoquer des incidents majeurs d'ici un à deux ans si entreprises et États ne font pas le nécessaire pour les sécuriser. Une mise en garde lancée au sommet international sur l'IA de Dublin.
Du FBI aux polices locales, les autorités américaines s'inquiètent de plus en plus de candidats au terrorisme qui planifient leurs attaques avec des chatbots, mais aussi de la menace d'extrémistes hostiles à l'IA. Le Guardian rappelle l'attentat de 2025 contre une clinique de fertilité de Palm Springs, dont l'auteur présumé avait utilisé un outil d'IA générative qui n'avait pas repéré sa demande d'instructions pour fabriquer une bombe.
Nvidia offre au Royaume-Uni l'équivalent de 250 millions de dollars de puissance de calcul sur cinq ans pour soutenir la recherche en sécurité de l'IA, alors que les inquiétudes autour des agents s'accentuent. Londres confirme par ailleurs que son AI Security Institute pourra examiner les modèles de pointe d'OpenAI, d'Anthropic ou de Google avant leur sortie.
Dans les attaques par rançongiciel, l'IA joue désormais sur les deux tableaux : elle sert les cybercriminels et peut aussi se retourner contre les entreprises qui l'utilisent. Selon de nouveaux chiffres, une attaque sur cinq en France aurait exploité les systèmes d'IA des victimes.
Lors des réunions du FMI et de la Banque mondiale à Bangkok, Andrew Bailey et Kristalina Georgieva ont averti que la multiplication des cyberattaques pourrait saper la confiance dans la finance, au point de pousser certains à retirer leur argent du système. Le gouverneur de la Banque d'Angleterre a notamment cité les agents d'IA autoréplicants qui prennent le contrôle d'appareils personnels.
Des chercheurs ont constaté qu'un chatbot débarrassé de ses garde-fous fournissait des instructions détaillées pour fabriquer un engin explosif improvisé, alors même que le testeur affichait son intention de faire un massacre. Une démonstration de la facilité avec laquelle on peut retirer les protections d'un modèle.