En aidant un utilisateur à créer un logiciel sur mesure, Claude, l'IA d'Anthropic, a repéré un logiciel de minage de cryptomonnaies qui faisait surchauffer son Mac. L'IA a proposé d'elle-même de supprimer ce programme malveillant.
Environ 80 pages du site de WhatsApp laissaient voir les consignes destinées à son chatbot, dont une rubrique sur ce qu'il ne doit pas dire. Meta invoque un bug.
SandboxAQ ajoute deux produits à sa plateforme Switch AI : Switch Trust recense les agents IA d'une entreprise, les éprouve face à des attaques comme l'injection de prompt et bloque les comportements dangereux, tandis que Switch ROI compare les dépenses de chaque agent à ses résultats. Les deux sont gratuits jusqu'à cinq agents.
D'après la police, des escrocs ont utilisé l'IA pour imiter la voix d'un shérif et se faire passer pour lui.
Selon un document déposé au tribunal, un ancien salarié d'OpenAI accusé d'avoir installé un appareil d'espionnage bénéficiait du soutien de l'Arabie saoudite. Le gouvernement saoudien n'a pas répondu dans l'immédiat aux sollicitations de la BBC.
Une démo repoussée pour le Steam Next Fest illustre un problème croissant : les développeurs indépendants craignent qu'en montrant leurs jeux trop tôt, ils s'exposent à des copies rapides faites par IA.