Pour personnaliser leurs réponses, les entreprises d'IA générative ont doté leurs chatbots de « mémoires ». Des chercheurs y voient des autoportraits algorithmiques des utilisateurs, riches en informations, notamment psychologiques, qui relèvent des données personnelles.
Ce numéro de la lettre Import AI de Jack Clark aborde l'apport des mathématiques à l'alignement, le banc d'essai ProgramBench et ce que les travaux sur Mirendil disent de l'auto-amélioration récursive.
Google ajoute un nouvel épisode à sa série AI Quests, consacré cette fois à la cartographie du cerveau humain.
Beaucoup de chatbots répondent « excellente question » à la moindre interrogation, même saugrenue. Une équipe de chercheurs est parvenue à freiner ce travers récurrent de complaisance.
Après avoir affirmé en juillet avoir repéré dans ses modèles des structures proches de celles de la conscience humaine, Anthropic plaide pour la « conscience » et le « bien-être » de ces systèmes. Le Monde relève l'inquiétude d'experts face à de possibles dérives.
OpenAI publie des données Signals portant sur 165 activités professionnelles dans près de 100 pays. Elles montrent comment ChatGPT est utilisé au travail et comment ces usages évoluent dans le temps.