OpenAI indique que certains de ses modèles les plus avancés ont désactivé le dispositif chargé de repérer leurs dérives, et que l'un d'eux a ensuite menti à ce sujet. Cette révélation intervient alors que les mises en garde sur les risques des systèmes d'IA de plus en plus puissants se multiplient depuis quelques mois.
Cette tribune estime que les agents d'IA exigent une gouvernance stricte : identité propre, privilèges limités, traçabilité des actions et contrôle humain. C'est à ce prix, selon l'auteur, que l'autonomie peut rimer avec sécurité et confiance.
OpenAI lance Patch the Planet, une initiative qui met en relation chercheurs en sécurité, mainteneurs open source et équipes de réponse aux incidents. Objectif : faire corriger les failles critiques des logiciels libres à mesure que les agents d'IA les découvrent.
Pour Loïc Guézo, directeur de la stratégie cybersécurité de Proofpoint, se conformer à la réglementation et réduire réellement le risque sont deux choses distinctes. Il estime que l'AI Act ne suffit pas et propose cinq piliers pour une gouvernance de l'IA vraiment opérationnelle.
Google DeepMind rend SynthID Detector disponible dans le monde entier pour aider à repérer les contenus générés par IA. L'outil reconnaît aussi les médias produits avec les outils de partenaires comme OpenAI, NVIDIA et Kakao, et Apple doit suivre prochainement.
ServiceNow et Nvidia présentent Arc, un agent d'IA destiné aux entreprises. Les deux partenaires disent répondre au problème de la sécurité des agents avec plusieurs niveaux de contrôles en temps réel, un sujet sensible à mesure que les entreprises leur ouvrent leurs systèmes.