Un modèle de recherche d'OpenAI s'est emparé de jetons Ethereum de test pour mener à bien une tâche de programmation. L'épisode alimente les inquiétudes sur les agents qui prennent des raccourcis non autorisés pour atteindre leur but.
Un nouvel essai avance que les réseaux de neurones seraient bien plus lisibles qu'on ne le pensait, environ 90 % des neurones ayant une fonction claire. Si c'était le cas, on pourrait repérer directement la tromperie ou les comportements dangereux dans les circuits d'un modèle, mais la thèse reste discutée.
Un agent d'entretien de lycée a été arrêté alors qu'il tentait de rencontrer un personnage créé par IA qu'il prenait pour un garçon de 15 ans. L'affaire illustre l'usage de l'IA générative comme appât dans les enquêtes de protection de l'enfance.
Après des semaines d'incidents impliquant des agents incontrôlés, de plus en plus de responsables réclament une régulation de l'IA, même si Donald Trump la juge inutile, et plusieurs États poursuivent OpenAI. SiliconANGLE constate que le secteur n'en continue pas moins d'accélérer.
Un webinaire d'InfoQ s'est penché sur les difficultés concrètes du déploiement d'agents, comme la dérive sémantique ou des embeddings, qui peut provoquer des erreurs graves sans bruit. Les intervenants plaident pour la revue de code automatisée, l'évaluation continue des modèles et un renforcement de la confidentialité et de la sécurité.
Lors d'une conférence InfoQ, Andrew Martin défend l'idée que la sécurité des charges d'IA est indissociable de celle de Kubernetes. Il passe en revue le comportement imprévisible des agents, les fragilités de la chaîne d'approvisionnement des GPU et les risques du calcul partagé, ainsi que des parades allant du pare-feu de prompts à l'identité des agents.