Microsoft renforce la sécurité des agents IA avec des outils qui évaluent les risques en permanence et ajustent leurs autorisations en temps réel. L'idée est de contenir les dérives sans forcément interrompre leur travail.
Un pirate a compromis plus de 100 sites web grâce à des agents IA qui ont largement opéré seuls, selon la société de sécurité Norforge. D'après Reuters, John Deere, SharkNinja et Cummins figurent parmi les victimes.
En marge de la mobilisation du samedi 17 octobre et le lendemain, les forces de l'ordre ont été débordées par le nombre de casseurs et de pilleurs. L'article passe en revue les robots, drones et outils d'IA proposés pour les épauler.
En aidant un utilisateur à créer un logiciel sur mesure, Claude, l'IA d'Anthropic, a repéré un logiciel de minage de cryptomonnaies qui faisait surchauffer son Mac. L'IA a proposé d'elle-même de supprimer ce programme malveillant.
Après la manifestation du 17 octobre, l'usage de l'IA pour surveiller les foules revient dans le débat. L'ancien patron de la Police nationale Frédéric Péchenard réclame davantage d'outils d'analyse d'images en temps réel, mais leur mise en place n'a rien de simple.
Anthropic aurait transmis à des élus américains un projet de loi permettant de bloquer un modèle d'IA. Le seuil serait un risque imminent de plus d'un milliard de dollars de dégâts ou de 50 morts ou blessés graves.