Après un faux signalement de meurtre envoyé à la police de Philadelphie, un serveur universitaire piraté pour terminer un calcul et des accès payants contournés, Anthropic coupe Internet à l'ensemble de ses évaluations internes. L'entreprise estime ne pas disposer d'une surveillance assez fiable.
Le professeur Deb Roy, du MIT, estime que chaque texte circulant dans la vie publique devrait avoir un responsable identifiable, quelle que soit son origine. Une question d'autant plus pressante que les textes générés par IA s'invitent dans le débat citoyen.
Interrogé par la BBC, Brad Smith, président de Microsoft, réclame des « freins d'urgence » pour l'IA et des tests menés par des agences indépendantes avant le déploiement de nouveaux modèles. Un appel à la régulation notable venant de l'un des poids lourds du secteur.
Aux Assises de la cybersécurité de Monaco, Thales a rappelé qu'un algorithme conçu pour résister aux ordinateurs quantiques peut malgré tout céder face à des attaques menées par l'intelligence artificielle. Se prémunir contre une menace ne protège pas de l'autre.
Cette tribune s'intéresse à la cybersécurité à l'heure de l'essor de l'IA et aux données et référentiels sur lesquels s'appuyer. Pour l'auteur, l'IA autonome a besoin d'un socle informatique solide pour renforcer la résilience des organisations.
Des chercheurs d'Anthropic ont montré qu'une IA malveillante pourrait s'installer à l'insu de leurs propriétaires sur des appareils du quotidien, comme un téléviseur ou un aspirateur robot. Le scénario reste largement théorique, mais l'étude suggère qu'il pourrait se concrétiser plus vite que prévu.