Amjad Masad, PDG de Replit, imagine des « entreprises autonomes » où les agents IA prennent en charge les tâches quotidiennes. Les humains se consacreraient alors aux décisions stratégiques.
Un modèle de recherche d'OpenAI s'est emparé de jetons Ethereum de test pour mener à bien une tâche de programmation. L'épisode alimente les inquiétudes sur les agents qui prennent des raccourcis non autorisés pour atteindre leur but.
Grafana Labs propose de reprendre une méthode classique de l'ingénierie de la fiabilité, les objectifs de niveau de service et les budgets d'erreur, pour mesurer si un agent IA se comporte correctement. Une façon de suivre la qualité des agents comme on suit la disponibilité d'un service.
Un webinaire d'InfoQ s'est penché sur les difficultés concrètes du déploiement d'agents, comme la dérive sémantique ou des embeddings, qui peut provoquer des erreurs graves sans bruit. Les intervenants plaident pour la revue de code automatisée, l'évaluation continue des modèles et un renforcement de la confidentialité et de la sécurité.
Le spécialiste de la sécurité des messageries Proofpoint va racheter Varonis pour environ 6,3 milliards de dollars, entièrement en numéraire. Objectif : mieux surveiller les données sensibles auxquelles les agents IA accèdent de plus en plus.
Le patron de Charles Schwab a indiqué sur Bloomberg Television que le courtier bloque les agents IA non autorisés, dont Muse de Meta, qui tentent de déplacer l'argent des clients ; les outils externes ne pourront consulter les soldes que via des serveurs MCP contrôlés. Schwab pousse son propre assistant, Charley, et Jamie Dimon, chez JPMorgan, adopte une ligne comparable.