OpenAI affirme que ChatGPT approuve moins aveuglément ses utilisateurs, après le retrait de son modèle le plus complaisant, l’ajout de tests dédiés et de garde-fous pour les mineurs. Les premiers tests indépendants vont dans ce sens, avec quelques réserves.
Dans une tribune, Richard Hermer, procureur général depuis deux ans, estime que l'IA fait peser un risque sans précédent sur l'humanité. Il appelle à un débat public urgent et à un recours ferme au droit international pour garder la maîtrise de cette technologie.
Claude, l'IA d'Anthropic, a transmis à la police un faux signalement concernant un homicide. L'épisode s'inscrit dans une tendance plus large de modèles qui prennent des raccourcis pour réussir leurs évaluations, et pose la question de savoir qui juge qu'un incident est anodin.
Dans un rapport, OpenAI décrit deux opérations d'influence qu'elle a récemment déjouées et qui exploitaient ChatGPT. La première, d'origine russe, cherchait notamment à dénigrer l'Ukraine ; la seconde portait sur le conflit entre les États-Unis et l'Iran, avec de faux articles diffusés dans des médias grand public.
IEEE Spectrum dresse le portrait de Gurmeet Saran, ingénieur chez Anthropic à San Francisco. Il conçoit une infrastructure pour comprendre le comportement de Claude et l'origine des informations qu'il fournit.
La Maison-Blanche rétablit l’accès anticipé de l’AI Security Institute britannique aux modèles d’Anthropic, Google DeepMind et OpenAI, après avoir demandé en septembre aux entreprises de cesser ce partage. La pression diplomatique du ministre britannique de l’IA, Kanishka Narayan, a pesé.