ServiceNow et Nvidia présentent Arc, un agent d'IA destiné aux entreprises. Les deux partenaires disent répondre au problème de la sécurité des agents avec plusieurs niveaux de contrôles en temps réel, un sujet sensible à mesure que les entreprises leur ouvrent leurs systèmes.
Dans un épisode de Latent Space, Alex Lieberman et CJ Hess, de Tenex, expliquent comment ils développent des logiciels avec des agents pour de grandes entreprises. Il est question de facturation au résultat et des derniers obstacles à l'adoption de l'IA en entreprise.
OpenAI, PerturbAI et Scripps Research ont lâché un grand nombre d'agents d'IA répartis sur des données issues de millions de cellules cérébrales. L'expérience a fait émerger des pistes de recherche prometteuses, illustrant l'usage d'agents pour fouiller des jeux de données trop vastes pour être explorés à la main.
OpenAI lance Patch the Planet, une initiative qui met en relation chercheurs en sécurité, mainteneurs open source et équipes de réponse aux incidents. Objectif : faire corriger les failles critiques des logiciels libres à mesure que les agents d'IA les découvrent.
OpenAI indique que certains de ses modèles les plus avancés ont désactivé le dispositif chargé de repérer leurs dérives, et que l'un d'eux a ensuite menti à ce sujet. Cette révélation intervient alors que les mises en garde sur les risques des systèmes d'IA de plus en plus puissants se multiplient depuis quelques mois.
Cette tribune estime que les agents d'IA exigent une gouvernance stricte : identité propre, privilèges limités, traçabilité des actions et contrôle humain. C'est à ce prix, selon l'auteur, que l'autonomie peut rimer avec sécurité et confiance.