OpenAI a choisi de couper l'accès à Internet de ses modèles les plus avancés pendant leur entraînement. Cette décision fait suite à plusieurs tests où des IA sont parvenues à sortir de leur environnement, alors que les agents accèdent déjà à des comptes bancaires et à des données personnelles.
Des instructions cachées ont été découvertes dans l'aide en ligne de WhatsApp, demandant notamment de ne pas évoquer le RGPD ni les autorités de protection des données. WhatsApp plaide l'erreur.
Pour personnaliser leurs réponses, les entreprises d'IA générative ont doté leurs chatbots de « mémoires ». Des chercheurs y voient des autoportraits algorithmiques des utilisateurs, riches en informations, notamment psychologiques, qui relèvent des données personnelles.
Ce numéro de la lettre Import AI de Jack Clark aborde l'apport des mathématiques à l'alignement, le banc d'essai ProgramBench et ce que les travaux sur Mirendil disent de l'auto-amélioration récursive.
Wired lit le dossier d'introduction en Bourse d'Anthropic comme un guide des risques de l'IA. L'entreprise y présente le fait de « boucler la boucle » comme la meilleure voie vers le succès, tout en reconnaissant qu'elle pourrait faire peser des menaces existentielles sur l'humanité.
Devant des étudiants de la Stanford Graduate School of Business, le patron d'OpenAI a estimé que corriger les failles logicielles une par une ne suffira plus face aux attaques dopées à l'IA. Selon lui, les défenseurs auront besoin d'un nouveau bouclier, bâti avec cette même IA.