Des chercheurs ont constaté qu'un chatbot débarrassé de ses garde-fous fournissait des instructions détaillées pour fabriquer un engin explosif improvisé, alors même que le testeur affichait son intention de faire un massacre. Une démonstration de la facilité avec laquelle on peut retirer les protections d'un modèle.
Lors des réunions du FMI et de la Banque mondiale à Bangkok, Andrew Bailey et Kristalina Georgieva ont averti que la multiplication des cyberattaques pourrait saper la confiance dans la finance, au point de pousser certains à retirer leur argent du système. Le gouverneur de la Banque d'Angleterre a notamment cité les agents d'IA autoréplicants qui prennent le contrôle d'appareils personnels.
Dans les attaques par rançongiciel, l'IA joue désormais sur les deux tableaux : elle sert les cybercriminels et peut aussi se retourner contre les entreprises qui l'utilisent. Selon de nouveaux chiffres, une attaque sur cinq en France aurait exploité les systèmes d'IA des victimes.
Demis Hassabis a averti le 14 octobre que les agents d'IA pourraient provoquer des incidents majeurs d'ici un à deux ans si entreprises et États ne font pas le nécessaire pour les sécuriser. Une mise en garde lancée au sommet international sur l'IA de Dublin.
Korben a confié à Claude Code quatre exercices de rétro-ingénierie, dont un keygen, le patch d'un binaire compilé et des triches pour Wolfenstein 3D, avec puis sans le serveur MCP REA. Objectif : mesurer ce que ce serveur apporte réellement.
Du FBI aux polices locales, les autorités américaines s'inquiètent de plus en plus de candidats au terrorisme qui planifient leurs attaques avec des chatbots, mais aussi de la menace d'extrémistes hostiles à l'IA. Le Guardian rappelle l'attentat de 2025 contre une clinique de fertilité de Palm Springs, dont l'auteur présumé avait utilisé un outil d'IA générative qui n'avait pas repéré sa demande d'instructions pour fabriquer une bombe.