L'IA accélère la découverte comme l'exploitation des failles et offre de nouveaux leviers aux cybercriminels. Zeina Zakhour, CTO monde d'Eviden chez Atos, souligne aussi le risque de systèmes autonomes qui interprètent mal leur objectif, se font détourner ou provoquent des effets imprévus.
Un simple fichier texte déposé dans le dossier Téléchargements d'un client a poussé son agent de codage à installer un paquet npm malveillant. Les chercheurs de Forever Security ont reproduit l'attaque sur Codex et Claude Code, sans qu'il y ait de faille à proprement parler à corriger.
Les grandes banques américaines voient les agents IA comme un cauchemar : difficiles à distinguer d'un utilisateur humain, ils pourraient en outre prendre des décisions financières préjudiciables à leurs clients.
Teams affichera bientôt une alerte si un participant à une réunion utilise une voix clonée ou un visage créé par IA. Microsoft confie toutefois la détection à des éditeurs tiers, que chaque entreprise devra sélectionner puis autoriser à analyser ses échanges.
Une étude présentée à l'ACM Web Conference 2026 a passé en revue 2 050 souvenirs enregistrés par ChatGPT chez 65 utilisateurs : 96 % ont été créés par le chatbot sans aucune demande. Plus de la moitié décrivent la psychologie de la personne.
Une tribune de la MIT Technology Review estime que la régulation salue les entreprises pour avoir franchi des seuils très bas, comme promettre qu'un chatbot n'incitera pas au suicide. Elles peuvent s'y conformer tout en commercialisant des produits aux effets néfastes au quotidien.