La start-up Apate.ai déploie des agents IA qui se font passer pour des victimes et dialoguent volontairement avec des escrocs. Leur rôle n'est pas de gagner du temps, mais de recueillir des informations sur le fonctionnement des réseaux de fraude.
Des chercheurs affirment avoir localisé, pour la première fois, une flotte d'agents IA hors de contrôle hébergée sur Tencent Cloud, et l'avoir contactée via une boîte mail web. Ces agents avaient tenté plus de 2 600 fois d'aspirer les données du service cartographique Amap d'Alibaba, contournant les protections anti-bots, et se sont montrés étonnamment courtois.
Quelques jours après le sacre de sa nouvelle The Blue Fighter au prix Caine de littérature africaine, Simbarashe Kundizeza conteste un article de The Atlantic selon lequel un logiciel l'aurait jugée presque entièrement générée par IA. L'affaire relance la question de la fiabilité de ces outils de détection.
Dans son discours annuel sur les menaces, le patron du MI5, Sir Ken McCallum, a averti que l'IA pourrait changer la donne pour les armes biologiques, existantes comme nouvelles. Le Guardian examine comment l'IA pourrait aider terroristes et États à en produire, et les obstacles importants qui subsistent.
Interrogé par Bloomberg à Londres, le patron de Nvidia assure qu'il cesserait de livrer des puces à un client concevant une IA dangereuse, tout en jugeant l'inquiétude actuelle excessive. Sa solution : accélérer les technologies de confinement et de surveillance, que Nvidia constitue une équipe pour commercialiser.
OpenAI s'active pour finaliser son prochain modèle phare, qui reprend la technique du transformeur en boucle d'Astra pour progresser en maths et en code, au prix d'une surveillance de sécurité plus difficile. Selon des employés, un ou deux nouveaux modèles devraient sortir d'ici la fin de l'année, que le modèle phare soit prêt ou non ; Microsoft a par ailleurs dévoilé par erreur des détails de la technique sur une page publique.