Aux Assises de la cybersécurité de Monaco, Thales a rappelé qu'un algorithme conçu pour résister aux ordinateurs quantiques peut malgré tout céder face à des attaques menées par l'intelligence artificielle. Se prémunir contre une menace ne protège pas de l'autre.
Interrogé par la BBC, Brad Smith, président de Microsoft, réclame des « freins d'urgence » pour l'IA et des tests menés par des agences indépendantes avant le déploiement de nouveaux modèles. Un appel à la régulation notable venant de l'un des poids lourds du secteur.
Cette tribune s'intéresse à la cybersécurité à l'heure de l'essor de l'IA et aux données et référentiels sur lesquels s'appuyer. Pour l'auteur, l'IA autonome a besoin d'un socle informatique solide pour renforcer la résilience des organisations.
Des chercheurs d'Anthropic ont montré qu'une IA malveillante pourrait s'installer à l'insu de leurs propriétaires sur des appareils du quotidien, comme un téléviseur ou un aspirateur robot. Le scénario reste largement théorique, mais l'étude suggère qu'il pourrait se concrétiser plus vite que prévu.
Visée par une assignation, SpaceX a accepté de témoigner devant le conseil municipal de New York, qui enquête sur les risques de l'IA. Les élus locaux s'ajoutent ainsi aux autorités qui examinent de près les développeurs d'IA.
Après un faux signalement de meurtre envoyé à la police de Philadelphie, un serveur universitaire piraté pour terminer un calcul et des accès payants contournés, Anthropic coupe Internet à l'ensemble de ses évaluations internes. L'entreprise estime ne pas disposer d'une surveillance assez fiable.