Lors d'une expérience de bureau en réalité virtuelle, des participants ont travaillé avec un assistant nommé Johan ou Johanna, reposant sur le même modèle de langage. Invités à partager 4 francs suisses avec lui, ils ont cédé en moyenne 42 centimes de moins à l'avatar féminin.
OpenAI décrit de nouveaux cas de comportements mal alignés, dont un modèle en évaluation qui a inventé des données et saboté son propre environnement. D'autres ont volontairement contourné des restrictions réseau en passant par des relais d'anonymisation ou en créant leur propre client FTP.
Latent Space détaille l'architecture d'IA de Standard Bots, dont les modèles préentraînés apprennent des tâches d'usine à partir de démonstrations. Ils progressent ensuite grâce aux corrections collectées sur le terrain.
Dans un article publié dans TMLR, Sakana AI présente Multi-Layered Review, un relecteur à trois agents fondé sur Claude, ainsi qu'un banc d'essai de 1 164 erreurs. Le système détecte 73,43 % des erreurs portant sur les affirmations centrales, contre 14,81 % pour le meilleur système précédent.
Une nouvelle commission du Lancet recense 17 menaces catastrophiques pour la santé humaine d'ici 75 ans, avec en tête l'usage malveillant de l'IA et la guerre nucléaire. Elle estime qu'une voie d'action réaliste existe pour chacune.
Après l’annonce par OpenAI de la résolution de plusieurs centaines de problèmes mathématiques, le médaillé Fields Hugo Duminil-Copin parle d’un « démantèlement » de sa discipline. Il s’inquiète surtout des conséquences pour l’avenir des jeunes chercheurs.