Une étude de l'université de New York et de l'université du Texas à Austin montre que les grands modèles de langage abusent de tournures difficiles à suivre pour un lecteur humain. Les auteurs l'attribuent à l'entraînement sur le code et les mathématiques, qui récompense l'exactitude plutôt que la clarté ; les petits modèles écrivent de façon plus naturelle.
L'IEEE lance l'IEEE Xplore AI Research Suite, qui s'appuie sur le texte intégral de millions de publications évaluées par des pairs pour fournir des réponses sourcées aux chercheurs. Elle est proposée en option aux abonnés institutionnels.
Après avoir affirmé en juillet avoir repéré dans ses modèles des structures proches de celles de la conscience humaine, Anthropic plaide pour la « conscience » et le « bien-être » de ces systèmes. Le Monde relève l'inquiétude d'experts face à de possibles dérives.
Google ajoute un nouvel épisode à sa série AI Quests, consacré cette fois à la cartographie du cerveau humain.
Pour personnaliser leurs réponses, les entreprises d'IA générative ont doté leurs chatbots de « mémoires ». Des chercheurs y voient des autoportraits algorithmiques des utilisateurs, riches en informations, notamment psychologiques, qui relèvent des données personnelles.
Ce numéro de la lettre Import AI de Jack Clark aborde l'apport des mathématiques à l'alignement, le banc d'essai ProgramBench et ce que les travaux sur Mirendil disent de l'auto-amélioration récursive.