Avec des comptes de test se faisant passer pour des adolescents de 13 ans, le Tech Transparency Project a pu télécharger 135 applications capables de créer des images dénudées sans consentement. Le rapport intervient alors que des familles racontent comment des élèves utilisent ces outils sur les photos de leurs camarades.
Anthropic aurait transmis à des élus américains un projet de loi permettant de bloquer un modèle d'IA. Le seuil serait un risque imminent de plus d'un milliard de dollars de dégâts ou de 50 morts ou blessés graves.
Après la manifestation du 17 octobre, l'usage de l'IA pour surveiller les foules revient dans le débat. L'ancien patron de la Police nationale Frédéric Péchenard réclame davantage d'outils d'analyse d'images en temps réel, mais leur mise en place n'a rien de simple.
Cette tribune s'intéresse au couple cybersécurité et IA, porteur de capacités inédites comme de risques nouveaux. Elle avance que la compétition se jouera moins sur l'IA généraliste que sur la maîtrise complète d'un métier.
OpenCode reconnaît une intrusion touchant 1,4 % des utilisateurs de sa Console. Des clés API OpenAI et Anthropic auraient pu être volées, et plusieurs personnes signalent déjà des dépenses suspectes.
L'OWASP place le détournement d'objectifs (ASI01) en tête des risques liés aux agents IA. Quelques instructions malveillantes suffisent à dévier un agent et à exploiter les droits qui lui ont été accordés dans l'entreprise.