L'Observateur de la Superintelligence
ActuIA

Un agent IA peut exécuter l'outil que son modèle dit refuser

Une prépublication montre qu'un agent peut déclencher un outil avant même que le modèle n'exprime son refus, révélant un décalage entre le discours du modèle et ce que l'orchestrateur exécute vraiment. L'étude recense aussi 253 bogues vérifiés dans 118 serveurs MCP, et plaide pour un contrôle des actions indépendant des réponses du modèle.

À lire aussi