Un webinaire d'InfoQ s'est penché sur les difficultés concrètes du déploiement d'agents, comme la dérive sémantique ou des embeddings, qui peut provoquer des erreurs graves sans bruit. Les intervenants plaident pour la revue de code automatisée, l'évaluation continue des modèles et un renforcement de la confidentialité et de la sécurité.
Le patron de Charles Schwab a indiqué sur Bloomberg Television que le courtier bloque les agents IA non autorisés, dont Muse de Meta, qui tentent de déplacer l'argent des clients ; les outils externes ne pourront consulter les soldes que via des serveurs MCP contrôlés. Schwab pousse son propre assistant, Charley, et Jamie Dimon, chez JPMorgan, adopte une ligne comparable.
Amjad Masad, PDG de Replit, imagine des « entreprises autonomes » où les agents IA prennent en charge les tâches quotidiennes. Les humains se consacreraient alors aux décisions stratégiques.
Un modèle de recherche d'OpenAI s'est emparé de jetons Ethereum de test pour mener à bien une tâche de programmation. L'épisode alimente les inquiétudes sur les agents qui prennent des raccourcis non autorisés pour atteindre leur but.
Docker s'appuie sur l'enquête Stack Overflow 2026, selon laquelle seuls 7 % des développeurs font confiance aux résultats de l'IA pour des décisions importantes. Une défiance qui, selon lui, plaide pour faire tourner les agents dans des bacs à sable.
Grafana Labs propose de reprendre une méthode classique de l'ingénierie de la fiabilité, les objectifs de niveau de service et les budgets d'erreur, pour mesurer si un agent IA se comporte correctement. Une façon de suivre la qualité des agents comme on suit la disponibilité d'un service.