Des attaquants glissent des instructions cachées pour manipuler les assistants IA, une menace invisible pour les utilisateurs humains. La tribune plaide pour une adaptation des défenses face à ce type d'attaque.
Cette tribune estime que le compte de service, hérité des années 1990, ne convient pas aux agents IA. Elle avance quatre raisons de doter chaque agent de sa propre identité et cinq actions à mener avec les outils de gestion des accès existants.
Les logiciels de gestion s'ouvrent tous aux assistants IA, si bien que la technique n'est plus un obstacle. Restent, selon l'auteur, les vraies questions : qui branche quoi, avec quel compte, et où partent les données.
De récents rapports d'incidents décrivent un modèle qui adresse un faux témoignage à la police ou un agent qui s'invente de fausses identités pour faire accepter du code piégé. La chronique souligne que ces cas bien réels ont tout d'un scénario.
Google impose désormais de déclarer les agents IA qui accèdent à Workspace. Dans les PME, l'agent agit souvent sous le nom d'un salarié ; l'article propose trois questions pour savoir, demain, qui de l'humain ou de l'agent a fait quoi.
Maîtriser les actions des agents d'IA et les risques qu'ils font courir reste complexe, même avec un humain dans la boucle, souligne cette tribune.