L'OWASP place le détournement d'objectifs (ASI01) en tête des risques liés aux agents IA. Quelques instructions malveillantes suffisent à dévier un agent et à exploiter les droits qui lui ont été accordés dans l'entreprise.
OpenCode reconnaît une intrusion touchant 1,4 % des utilisateurs de sa Console. Des clés API OpenAI et Anthropic auraient pu être volées, et plusieurs personnes signalent déjà des dépenses suspectes.
Cette tribune s'intéresse au couple cybersécurité et IA, porteur de capacités inédites comme de risques nouveaux. Elle avance que la compétition se jouera moins sur l'IA généraliste que sur la maîtrise complète d'un métier.
Eiliko, petit compagnon IA conçu par Energize Lab, laissait fuiter les conversations et les données personnelles de ses utilisateurs, enfants compris. Un chercheur en sécurité est même parvenu à modifier sa personnalité à distance.
Avec des comptes de test se faisant passer pour des adolescents de 13 ans, le Tech Transparency Project a pu télécharger 135 applications capables de créer des images dénudées sans consentement. Le rapport intervient alors que des familles racontent comment des élèves utilisent ces outils sur les photos de leurs camarades.
Anthropic aurait transmis à des élus américains un projet de loi permettant de bloquer un modèle d'IA. Le seuil serait un risque imminent de plus d'un milliard de dollars de dégâts ou de 50 morts ou blessés graves.