Des chercheurs décrivent une méthode d'attaque qui contourne les protections mises en place par OpenAI et Google pour empêcher leurs nouveaux modèles de générer des images de nus. De quoi révéler les failles de ces garde-fous.
Nvidia offre au Royaume-Uni l'équivalent de 250 millions de dollars de puissance de calcul sur cinq ans pour soutenir la recherche en sécurité de l'IA, alors que les inquiétudes autour des agents s'accentuent. Londres confirme par ailleurs que son AI Security Institute pourra examiner les modèles de pointe d'OpenAI, d'Anthropic ou de Google avant leur sortie.
Du FBI aux polices locales, les autorités américaines s'inquiètent de plus en plus de candidats au terrorisme qui planifient leurs attaques avec des chatbots, mais aussi de la menace d'extrémistes hostiles à l'IA. Le Guardian rappelle l'attentat de 2025 contre une clinique de fertilité de Palm Springs, dont l'auteur présumé avait utilisé un outil d'IA générative qui n'avait pas repéré sa demande d'instructions pour fabriquer une bombe.
Demis Hassabis a averti le 14 octobre que les agents d'IA pourraient provoquer des incidents majeurs d'ici un à deux ans si entreprises et États ne font pas le nécessaire pour les sécuriser. Une mise en garde lancée au sommet international sur l'IA de Dublin.
Un pirate soupçonné d'avoir attaqué plusieurs banques sud-coréennes avec l'aide de l'IA a laissé ses conversations avec Claude accessibles en ligne. Les chercheurs de CrowdStrike s'en sont servis pour retracer ses activités.
Les banques centrales s'inquiètent de la place croissante de l'IA et des agents dans la gestion des établissements financiers. Les régulateurs redoutent que des cyberattaques dopées à l'IA ne perturbent des services bancaires critiques et ne fragilisent les marchés.