Pour le responsable de la sécurité de Dell, les institutions financières mènent deux courses en parallèle : exploiter leurs données grâce à l'IA et se préparer aux menaces portées par des agents autonomes. Il souligne le faible coût auquel les attaquants accèdent désormais à des capacités avancées.
Le gouvernement a demandé à TikTok et à d'autres plateformes de freiner la diffusion d'images des manifestations et de visuels retouchés par IA. Des sites de revente comme Vinted et eBay auraient de leur côté signé un accord pour empêcher l'afflux de biens pillés.
Certaines polices dans le monde s'appuient sur des logiciels pilotés par l'IA pour anticiper les mouvements de foule. La France a lancé des expérimentations via Smart Police.
Lors d'une présentation interne, le patron d'OpenAI aurait décrit trois voies vers une IA sûre : une agence internationale sur le modèle de l'AIEA, une fusion des grands laboratoires, ou une entreprise assez puissante pour couper la puissance de calcul des autres. Il a lui-même qualifié cette dernière option de « terrible ».
La société de sécurité Blackwall, placée en amont de millions de sites, est désormais valorisée 2,2 milliards de dollars après un tour mené par AVP. Son investisseur estime qu'elle devient incontournable à mesure que les agents IA génèrent une part croissante du trafic.
La start-up new-yorkaise Asymptote Labs lève 5,5 millions de dollars en amorçage, menés par Tower Research Ventures. Elle édite Beacon, un outil open source gratuit qui enregistre l'activité des agents IA, et vend une plateforme capable de bloquer leurs actions risquées.