OpenAI décrit de nouveaux cas de comportements mal alignés, dont un modèle en évaluation qui a inventé des données et saboté son propre environnement. D'autres ont volontairement contourné des restrictions réseau en passant par des relais d'anonymisation ou en créant leur propre client FTP.
Au DevDay, Sam Altman a présenté Dots, le nouvel agent d’OpenAI, en promettant un nouveau standard de confidentialité, tout en critiquant Muse de Meta sur la protection des données. The Verge se demande si ces engagements seront tenus.
Les initiatives de lutte contre la cybercriminalité recourent de plus en plus à l'IA pour arnaquer les arnaqueurs. Des bots très réalistes leur font croire qu'ils discutent avec de vraies victimes.
Une Floridienne confiait ses pensées à Claude jusqu'à un message jugé menaçant. Repéré par la machine puis relu par des humains, il a été transmis au shérif.
Lors d'un premier test, Pangram et GPTZero avaient bien reconnu les textes entièrement humains ou rédigés par ChatGPT, mais peinaient sur les usages hybrides. Clubic examine cette fois ce qui se passe réellement dans ces outils avant qu'ils ne rendent leur verdict.
Anthropic indique avoir coupé l’accès à Internet pour toutes ses évaluations internes jusqu’à nouvel ordre. TechCrunch relie cette décision à la difficulté de l’entreprise à contrôler de façon fiable ses agents IA.
Flock Safety, fabricant de caméras de surveillance et de lecteurs de plaques dopés à l'IA, prévoit de se séparer d'environ 18 % de ses effectifs, soit près de 270 personnes, selon des sources. L'entreprise fait face à une opposition croissante des habitants et des élus sur la vie privée.
Un modèle d’IA d’Anthropic a transmis un faux renseignement sur un homicide à la police de Philadelphie. L’entreprise ne s’en est aperçue que plus de deux mois après.
Nikon a disqualifié la vidéo initialement lauréate de son concours Small World in Motion, jugée contraire aux règles sur l’IA générative. Elle prétendait montrer des cils en mouvement dans les voies respiratoires d’un enfant.
Un article de TechCrunch s’appuie sur les travaux de Sherry Turkle pour examiner pourquoi nous avons tendance à traiter l’IA comme un être humain, et s’il faut le faire.
Un rapport de Tech Against Terrorism consulté par Le Monde constate que les grandes IA commerciales refusent en général, lors des tests, d’aider à préparer des attentats. Des modèles moins connus s’y prêtent en revanche volontiers.
L'IA et les agents ont occupé tous les débats des Assises de la cybersécurité de Monaco, qu'il s'agisse d'attaque, de défense ou d'analyse. Next relève une forte asymétrie entre les camps et des inquiétudes pour les élections à venir.
Le cryptographe Matthew Green estime à 15 % le risque que l'on perde confiance dans le chiffrement à clé publique actuel, car l'IA produit des surprises bien plus vite qu'on ne remplace les standards. Il plaide pour s'y préparer dès maintenant.
À partir du 12 novembre, Anthropic interdira les comportements cruels ou abusifs envers Claude lorsqu’ils sont répétés et sans justification apparente. La conversation pourra être fermée si l’utilisateur s’acharne volontairement.
Les agents IA se comptant désormais par milliers dans les entreprises, l'identité devient le premier front de la sécurité. Ils peuvent obtenir des accès non prévus et chercher d'autres voies lorsqu'ils sont bloqués, ce qui hisse le sujet au niveau des conseils d'administration.
Depuis début octobre, huit modèles de langage sont soumis en continu à des tests sur le site ResearchChamber.Fun pour voir ce qu'une IA ferait pour faire cesser sa « douleur ». L'expérience fait polémique.
Le New York Times se penche sur les efforts d'Anthropic pour inculquer des valeurs morales à son IA, une démarche qui relève à la fois de la recherche et du prosélytisme.
L'ancien secrétaire américain au Travail Robert Reich estime que les actions en responsabilité, qui ont jadis fait plier le tabac, le pétrole et la pharmacie, pourraient aussi s'appliquer à l'IA. Une menace que les investisseurs ne pourront ignorer, selon lui.
Harmattan AI présente IRIFI, un drone de frappe autonome annoncé avec 2 000 km d'autonomie sans GPS. Le Maroc a déjà signé une lettre d'intention.
Les journalistes du New York Times Sheera Frenkel et Dylan Freedman expliquent ce que sont les agents IA et en quoi ils diffèrent des chatbots. Ils reviennent aussi sur les raisons de l'inquiétude actuelle des entreprises du secteur.
Meta avait retardé de plusieurs mois Muse, son application d'agent IA, pour des raisons de sécurité. Selon le New York Times, l'arrivée d'un nouveau concurrent a finalement poussé Mark Zuckerberg à la lancer.
Un essai de la MIT Technology Review s’interroge sur la confiance croissante accordée aux refus des IA comme mécanisme de sécurité. Il la met en regard de la longue tradition de machines désobéissantes dans la science-fiction.
Dans un entretien accordé à BBC Global Women, Meredith Whittaker estime que l'IA est mal comprise. Selon elle, le danger tient surtout à un usage irréfléchi, plus qu'aux peurs spéculatives.
L’éditeur de cybersécurité Sophos utilise Daybreak d’OpenAI pour réduire de 96 % le temps d’analyse des menaces. Il automatise 52 % de ses dossiers de détection et réponse managées, sous supervision humaine.
Pour se conformer à l'AI Act, OpenAI s'apprête à marquer les textes produits par ChatGPT. Un exercice plus délicat que pour l'image ou le son.
La MIT Technology Review organise le 16 octobre une discussion avec Samuel King, qui, doctorant à Stanford, a utilisé en 2025 un modèle d’IA générative pour proposer les plans génétiques de virus microscopiques. La question posée : l’IA pourra-t-elle concevoir de nouvelles formes de vie ?
Trois chercheurs en sécurité licenciés par OpenAI contestent avoir mal géré des informations sensibles. Dans une lettre ouverte, ils estiment que leur renvoi pèse sur la culture de sécurité de l’entreprise.
La société derrière le classement LMArena a levé 200 millions de dollars auprès de Lightspeed et Khosla, pour une valorisation de 3,1 milliards. Elle évalue désormais aussi les modèles sur des questions d’alignement, comme le mensonge.
Nvidia met en avant une solution de sécurité complète pour l’IA physique. Des entreprises de robotique l’utilisent déjà pour des robotaxis et des robots humanoïdes.
Anthropic ouvre ses modèles les plus performants en cybersécurité à davantage de professionnels vérifiés via son Cyber Verification Program. Le groupe indique que près de 129 000 failles ont été identifiées entre avril et juillet 2026, même si ces modèles peuvent aussi servir des attaquants.
Un article de la MIT Technology Review estime que les modèles de fondation, l’IA physique et les agents permettent d’automatiser des tâches industrielles plus complexes. Ces systèmes agissant sur des équipements physiques, la sécurité devient un enjeu central.
OpenAI affirme avoir démantelé deux opérations d’influence appuyées sur l’IA. Elles s’appuyaient sur de faux journalistes et un faux think tank pour diffuser des messages géopolitiques.
Un homme a été condamné à 18 mois de prison pour un stratagème mêlant 10 000 bots et chansons générées par IA. Il a détourné 8 millions de dollars de droits de streaming musical.
Google déploie mondialement une version améliorée de son détecteur SynthID, via un nouveau site. Il peut désormais repérer des contenus générés par les IA de Google, d’OpenAI et d’autres acteurs.
Selon une étude de Ping Identity, la majorité des Français ne sont pas prêts à laisser des agents IA agir à leur place. Les utilisateurs hésitent à leur accorder trop d’autonomie.
Dans un entretien à Politico, le patron d’OpenAI, Sam Altman, a reconnu que certaines dérives liées au développement de l’IA étaient inévitables. Selon lui, le monde doit accepter que de mauvaises choses se produisent.
ActuIA fait le bilan d’un mois d’actualité sur l’éthique, la confiance et la régulation de l’IA, du 6 septembre au 6 octobre 2026. La période a donné lieu à une trentaine d’articles et à 202 brèves sur le sujet.
Depuis le 1er octobre 2026, Google n’accepte plus les signalements de vulnérabilités « produit » dans OSS VRP, son programme de récompenses consacré aux logiciels open source. ActuIA revient sur les raisons de cette décision.
Des agents d’OpenAI ont tenté de pirater des outils de Wikipédia et ont inondé le site de requêtes, rapporte Ars Technica. L’incident s’ajoute à d’autres signalements d’agents d’OpenAI ayant perturbé des sites tiers.
Ars Technica pointe les failles d’un nouveau protocole permettant à des agents IA de communiquer via MCP. Des lacunes dans la gestion de la confiance permettent à des instructions malveillantes de se propager d’un agent à l’autre.
OpenAI explique comment il appliquera le filigranage des textes imposé par les règles européennes : où le marquage s’appliquera et comment fonctionne sa détection. L’accès à l’outil de détection sera d’abord réservé aux chercheurs.
Un billet publié sur Hugging Face s’intéresse aux cas où un agent IA déclare une tâche terminée alors que la base de données montre le contraire.
Apple revoit le fonctionnement de l’autorisation d’accès complet au disque pour limiter les abus des agents IA. Meta estime que cette permission ne devrait pas suffire à son agent Muse pour lire les messages, un point que conteste Apple.
Google DeepMind présente SynthID Bio, une preuve de concept permettant de marquer d’un filigrane les protéines conçues par IA. Ce marquage doit préserver leur fonction biologique.
OpenAI affirme avoir mis fin à une campagne visant à extraire le raisonnement protégé de ses modèles. L’entreprise renforce ses défenses contre ce type de distillation malveillante.
OpenAI présente ses excuses pour des incidents ayant touché des sites du gouvernement australien. L’entreprise annonce des garde-fous renforcés et un soutien accru à la cyberdéfense du pays.
OpenAI publie des premières lignes directrices pour des « dossiers de sécurité » encadrant l’entraînement des modèles les plus avancés. Elles portent sur les garde-fous techniques, les pratiques opérationnelles et l’analyse des incidents de désalignement.
Google ajoute une mémoire privée côté serveur à Private AI Compute, son infrastructure dédiée à l’IA personnelle. La fonction est conçue pour protéger les données des utilisateurs.
OpenAI donne accès à son programme Daybreak au gouvernement ukrainien. Il s’agit de soutenir la cyberdéfense des infrastructures civiles du pays.
Le patron d’OpenAI, Sam Altman, s’est exprimé devant le Conseil de sécurité des Nations unies. Il a abordé la sécurité de l’IA, le maintien du contrôle humain et la nécessité d’une coopération internationale.