Une tribune de la MIT Technology Review estime que la régulation salue les entreprises pour avoir franchi des seuils très bas, comme promettre qu'un chatbot n'incitera pas au suicide. Elles peuvent s'y conformer tout en commercialisant des produits aux effets néfastes au quotidien.
En suivant les dépenses publicitaires des campagnes américaines, le Wesleyan Media Project a recensé 220 spots politiques conçus au moins en partie avec l'IA, un phénomène baptisé « slopagande ». La plupart ne le signalent pas.
Les grandes banques américaines voient les agents IA comme un cauchemar : difficiles à distinguer d'un utilisateur humain, ils pourraient en outre prendre des décisions financières préjudiciables à leurs clients.
L'IA modifie l'équation de la sécurité sur deux fronts : des agents qui agissent en autonomie et des vulnérabilités découvertes plus vite. Aux centres opérationnels de sécurité de faire le tri.
Pour l'auteur de cette tribune publiée par Silicon.fr, la dette technique fait le lien entre les faiblesses opérationnelles actuelles, des cybermenaces amplifiées par l'IA et l'exposition cryptographique à venir.
L'IA accélère la découverte comme l'exploitation des failles et offre de nouveaux leviers aux cybercriminels. Zeina Zakhour, CTO monde d'Eviden chez Atos, souligne aussi le risque de systèmes autonomes qui interprètent mal leur objectif, se font détourner ou provoquent des effets imprévus.