Après des semaines d'incidents impliquant des agents incontrôlés, de plus en plus de responsables réclament une régulation de l'IA, même si Donald Trump la juge inutile, et plusieurs États poursuivent OpenAI. SiliconANGLE constate que le secteur n'en continue pas moins d'accélérer.
Un agent d'entretien de lycée a été arrêté alors qu'il tentait de rencontrer un personnage créé par IA qu'il prenait pour un garçon de 15 ans. L'affaire illustre l'usage de l'IA générative comme appât dans les enquêtes de protection de l'enfance.
Un nouvel essai avance que les réseaux de neurones seraient bien plus lisibles qu'on ne le pensait, environ 90 % des neurones ayant une fonction claire. Si c'était le cas, on pourrait repérer directement la tromperie ou les comportements dangereux dans les circuits d'un modèle, mais la thèse reste discutée.
Un webinaire d'InfoQ s'est penché sur les difficultés concrètes du déploiement d'agents, comme la dérive sémantique ou des embeddings, qui peut provoquer des erreurs graves sans bruit. Les intervenants plaident pour la revue de code automatisée, l'évaluation continue des modèles et un renforcement de la confidentialité et de la sécurité.
Le patron de Charles Schwab a indiqué sur Bloomberg Television que le courtier bloque les agents IA non autorisés, dont Muse de Meta, qui tentent de déplacer l'argent des clients ; les outils externes ne pourront consulter les soldes que via des serveurs MCP contrôlés. Schwab pousse son propre assistant, Charley, et Jamie Dimon, chez JPMorgan, adopte une ligne comparable.
Sherry Turkle, professeure au MIT, alerte sur la relation devenue dangereusement fusionnelle entre les gens et les chatbots. Elle s'interroge sur le fait de laisser ces systèmes s'exprimer à la première personne.