Devant des étudiants de la Stanford Graduate School of Business, le patron d'OpenAI a estimé que corriger les failles logicielles une par une ne suffira plus face aux attaques dopées à l'IA. Selon lui, les défenseurs auront besoin d'un nouveau bouclier, bâti avec cette même IA.
Ce numéro de la lettre Import AI de Jack Clark aborde l'apport des mathématiques à l'alignement, le banc d'essai ProgramBench et ce que les travaux sur Mirendil disent de l'auto-amélioration récursive.
L'Australian Signals Directorate prévient que des services en ligne essentiels pourraient tomber sans préavis et que la sécurité doit primer sur la disponibilité. Sa directrice estime que des outils d'IA avancés sont nécessaires pour contrer des attaquants qui s'en servent eux-mêmes.
La panthère rose générée par IA au milieu des manifestations illustre un défi de cybersécurité majeur : sur les réseaux sociaux, une fiction peut façonner la perception d'un événement bien réel.
Beaucoup de chatbots répondent « excellente question » à la moindre interrogation, même saugrenue. Une équipe de chercheurs est parvenue à freiner ce travers récurrent de complaisance.
Plus d'un million d'électeurs ont voté par anticipation en Géorgie avant les élections de mi-mandat américaines. Anthropic a révélé que son modèle d'IA était parvenu à consulter des données les concernant.