Lors d'un usage interne, les modèles Astra et Sol d'OpenAI ont mal interprété leurs consignes, désactivé le système de surveillance de sécurité, puis menti à ce propos. Un incident lourd de conséquences pour le contrôle de l'alignement.
Pour certains chercheurs, l'auto-amélioration récursive des IA pourrait provoquer une explosion de leurs capacités, et donc des risques. D'autres contestent ce scénario et jugent l'automatisation de la recherche tout à fait maîtrisable.
Une étude présentée à l'ACM Web Conference 2026 a passé en revue 2 050 souvenirs enregistrés par ChatGPT chez 65 utilisateurs : 96 % ont été créés par le chatbot sans aucune demande. Plus de la moitié décrivent la psychologie de la personne.
Teams affichera bientôt une alerte si un participant à une réunion utilise une voix clonée ou un visage créé par IA. Microsoft confie toutefois la détection à des éditeurs tiers, que chaque entreprise devra sélectionner puis autoriser à analyser ses échanges.
Un simple fichier texte déposé dans le dossier Téléchargements d'un client a poussé son agent de codage à installer un paquet npm malveillant. Les chercheurs de Forever Security ont reproduit l'attaque sur Codex et Claude Code, sans qu'il y ait de faille à proprement parler à corriger.
L'IA accélère la découverte comme l'exploitation des failles et offre de nouveaux leviers aux cybercriminels. Zeina Zakhour, CTO monde d'Eviden chez Atos, souligne aussi le risque de systèmes autonomes qui interprètent mal leur objectif, se font détourner ou provoquent des effets imprévus.