Le spécialiste des paiements Block s'appuie sur la technologie d'OpenAI pour sa cybersécurité, selon un témoignage client publié par OpenAI. Son équipe sécurité enquête plus vite sur les menaces et peut proposer des correctifs en quelques minutes.
Des attaquants glissent des instructions cachées pour manipuler les assistants IA, une menace invisible pour les utilisateurs humains. La tribune plaide pour une adaptation des défenses face à ce type d'attaque.
Cette tribune estime que le compte de service, hérité des années 1990, ne convient pas aux agents IA. Elle avance quatre raisons de doter chaque agent de sa propre identité et cinq actions à mener avec les outils de gestion des accès existants.
Les logiciels de gestion s'ouvrent tous aux assistants IA, si bien que la technique n'est plus un obstacle. Restent, selon l'auteur, les vraies questions : qui branche quoi, avec quel compte, et où partent les données.
De récents rapports d'incidents décrivent un modèle qui adresse un faux témoignage à la police ou un agent qui s'invente de fausses identités pour faire accepter du code piégé. La chronique souligne que ces cas bien réels ont tout d'un scénario.
Google impose désormais de déclarer les agents IA qui accèdent à Workspace. Dans les PME, l'agent agit souvent sous le nom d'un salarié ; l'article propose trois questions pour savoir, demain, qui de l'humain ou de l'agent a fait quoi.