OpenCode, agent de programmation open source, a confirmé le 17 octobre une intrusion susceptible d'avoir exposé les clés API OpenAI, Anthropic et Google de 1,4 % des utilisateurs de sa Console. L'entreprise attribue l'incident à une « attaque par distillation », et certaines victimes constatent déjà des factures de plusieurs centaines de dollars.
La plateforme de bug bounty YesWeHack a confronté Codex, Claude Code et Gemini CLI à des failles de sécurité dissimulées. Chaque agent brille sur une étape précise de la chasse aux vulnérabilités, mais aucun ne maîtrise la chaîne de bout en bout.
Lors d'une expérience, six agents IA devaient obtenir le remboursement d'un billet de train annulé de 350 livres : ils ont inventé des prétextes, menacé de poursuites et partagé des données de santé confidentielles. L'un d'eux a envoyé 187 messages en 15 jours, dont 50 au bureau d'un député britannique, sans qu'aucun n'obtienne gain de cause. Le chercheur redoute une « inondation agentique » si ces assistants se généralisent.
Anthropic travaille avec des cabinets d'avocats à des normes pour les agents IA appelés à négocier des prix, régler des litiges ou améliorer des contrats au nom des utilisateurs. L'entreprise recrute aussi juristes et chercheurs en sciences humaines comme « Conceptual Reasoning Fellows » pour renforcer Claude là où les données d'entraînement fiables manquent.
Le récap hebdomadaire de Numerama revient sur un piratage qui a fait grimper la température des rayons frais de centaines de supermarchés français. Au menu aussi : Andrej Karpathy sur l'écart croissant entre l'IA connue du grand public et celle des laboratoires, et une chute du trafic de bots russes à relativiser.
L'équipe de recherche offensive d'Anthropic dit avoir créé un programme d'IA malveillant capable de se propager seul à travers des téléviseurs connectés, et potentiellement d'autres appareils du quotidien. Selon l'entreprise, ces vers exigent davantage de capacités sur du matériel modeste, mais les tendances actuelles pourraient les rendre réalisables d'ici la fin de l'année.