Eiliko, petit compagnon IA conçu par Energize Lab, laissait fuiter les conversations et les données personnelles de ses utilisateurs, enfants compris. Un chercheur en sécurité est même parvenu à modifier sa personnalité à distance.
L'OWASP place le détournement d'objectifs (ASI01) en tête des risques liés aux agents IA. Quelques instructions malveillantes suffisent à dévier un agent et à exploiter les droits qui lui ont été accordés dans l'entreprise.
OpenCode reconnaît une intrusion touchant 1,4 % des utilisateurs de sa Console. Des clés API OpenAI et Anthropic auraient pu être volées, et plusieurs personnes signalent déjà des dépenses suspectes.
Cette tribune s'intéresse au couple cybersécurité et IA, porteur de capacités inédites comme de risques nouveaux. Elle avance que la compétition se jouera moins sur l'IA généraliste que sur la maîtrise complète d'un métier.
Anthropic a choisi de couper l’accès aux utilisateurs trop cruels envers Claude. Selon ZDNet France, cette interdiction d’insulter la machine répond davantage à un calcul financier qu’à une question morale.
Avec des comptes de test se faisant passer pour des adolescents de 13 ans, le Tech Transparency Project a pu télécharger 135 applications capables de créer des images dénudées sans consentement. Le rapport intervient alors que des familles racontent comment des élèves utilisent ces outils sur les photos de leurs camarades.