Anthropic a confié à Claude 25 projets open source très utilisés, avec une consigne précise : repérer non pas des bogues isolés, mais du code accessible à des attaquants qui ne devraient pas pouvoir l'atteindre. Claude a signalé 493 problèmes de ce type, dont un présent depuis 21 ans.
Cyberattaques, fuites de données, dépendance aux géants américains : la protection des informations sensibles est devenue un enjeu stratégique pour l'Europe. Clubic se penche sur le cloud « air-gapped », qui fonctionne sans connexion à Internet, et sur Clarence Cloud, qui s'en sert pour faire tourner de l'IA dans un environnement isolé.
Annoncée à la GTC Berlin, cette collaboration élargie doit aider les entreprises à sécuriser leurs agents autonomes, encadrer l'accès aux modèles d'IA et déployer leurs charges sur la future infrastructure Vera Rubin de Nvidia. Les nouveautés s'articulent autour de Red Hat AI Factory with Nvidia et ajoutent des contrôles d'exécution pour les agents.
PHP a publié en urgence des mises à jour corrigeant deux failles critiques, découvertes par l'IA, qui permettaient à un attaquant non authentifié d'exécuter du code sur presque tous les serveurs utilisant le langage. Les versions 8.5.12, 8.4.27, 8.3.36 et 8.2.35 mettent fin à deux jours agités, pendant lesquels des sites du monde entier ont été mis hors ligne dans l'attente du correctif.
La start-up Recursive mise sur l'IA pour concevoir l'IA. Elle estime que les bénéfices de l'auto-amélioration récursive l'emportent sur les risques, et Wired juge son dernier modèle redoutablement performant.
En juillet, Docker, Snyk et Keycard ont publié Agent Baseline, une architecture de référence ouverte et neutre qui fixe les objectifs de sécurité pour faire tourner des agents d'IA en entreprise. Docker s'en inspire désormais pour sécuriser les systèmes qui produisent les logiciels.