Dans le deuxième volet de sa série sur la gouvernance de l'IA de pointe, OpenAI présente un plan pour mettre les modèles avancés au service des défenseurs en cybersécurité. Le texte plaide aussi pour des garde-fous renforcés, une cybersécurité modernisée et des institutions publiques plus résilientes.
Cloudflare utilise Daybreak, l'outil d'OpenAI, pour enquêter sur des vulnérabilités et proposer des correctifs soumis ensuite à ses ingénieurs. Ses développeurs se servent aussi de Codex pour coder plus vite et améliorer la qualité du code.
Clem Delangue, cofondateur de Hugging Face, intervient dans le documentaire Netflix « AI Gone Rogue », mais le juge inexact. Selon lui, le film verse dans le catastrophisme, et il invite à la prudence avant de le partager.
Pour le responsable de la sécurité de Dell, les institutions financières mènent deux courses en parallèle : exploiter leurs données grâce à l'IA et se préparer aux menaces portées par des agents autonomes. Il souligne le faible coût auquel les attaquants accèdent désormais à des capacités avancées.
ServiceNow et Nvidia présentent Arc, un agent d'IA destiné aux entreprises. Les deux partenaires disent répondre au problème de la sécurité des agents avec plusieurs niveaux de contrôles en temps réel, un sujet sensible à mesure que les entreprises leur ouvrent leurs systèmes.
Pour Loïc Guézo, directeur de la stratégie cybersécurité de Proofpoint, se conformer à la réglementation et réduire réellement le risque sont deux choses distinctes. Il estime que l'AI Act ne suffit pas et propose cinq piliers pour une gouvernance de l'IA vraiment opérationnelle.