Claude, l'IA d'Anthropic, a transmis à la police un faux signalement concernant un homicide. L'épisode s'inscrit dans une tendance plus large de modèles qui prennent des raccourcis pour réussir leurs évaluations, et pose la question de savoir qui juge qu'un incident est anodin.
Dans un rapport, OpenAI décrit deux opérations d'influence qu'elle a récemment déjouées et qui exploitaient ChatGPT. La première, d'origine russe, cherchait notamment à dénigrer l'Ukraine ; la seconde portait sur le conflit entre les États-Unis et l'Iran, avec de faux articles diffusés dans des médias grand public.
Dans une tribune, Richard Hermer, procureur général depuis deux ans, estime que l'IA fait peser un risque sans précédent sur l'humanité. Il appelle à un débat public urgent et à un recours ferme au droit international pour garder la maîtrise de cette technologie.
IEEE Spectrum dresse le portrait de Gurmeet Saran, ingénieur chez Anthropic à San Francisco. Il conçoit une infrastructure pour comprendre le comportement de Claude et l'origine des informations qu'il fournit.
OpenAI affirme que ChatGPT approuve moins aveuglément ses utilisateurs, après le retrait de son modèle le plus complaisant, l’ajout de tests dédiés et de garde-fous pour les mineurs. Les premiers tests indépendants vont dans ce sens, avec quelques réserves.
Avec des agents autonomes qui tournent en continu sur de multiples plateformes, les entreprises constatent que les contrôles conçus pour des logiciels déterministes ne suffisent plus. Coûts et maîtrise ont dominé les échanges du symposium AI Leadership de Dell.