Nvidia mise gros sur l’IA physique pour des robotaxis et des humanoïdes plus sûrs
Nvidia met en avant une solution de sécurité complète pour l’IA physique. Des entreprises de robotique l’utilisent déjà pour des robotaxis et des robots humanoïdes.
Sécurité
379 articles · Page 8/8Anthropic ouvre davantage l’accès à Claude Mythos, une IA aussi puissante que redoutée
Anthropic ouvre ses modèles les plus performants en cybersécurité à davantage de professionnels vérifiés via son Cyber Verification Program. Le groupe indique que près de 129 000 failles ont été identifiées entre avril et juillet 2026, même si ces modèles peuvent aussi servir des attaquants.
Vers une IA industrielle autonome plus sûre
Un article de la MIT Technology Review estime que les modèles de fondation, l’IA physique et les agents permettent d’automatiser des tâches industrielles plus complexes. Ces systèmes agissant sur des équipements physiques, la sécurité devient un enjeu central.
OpenAI démantèle des opérations d’influence utilisant de fausses façades
OpenAI affirme avoir démantelé deux opérations d’influence appuyées sur l’IA. Elles s’appuyaient sur de faux journalistes et un faux think tank pour diffuser des messages géopolitiques.
Prison pour un fraudeur qui a utilisé 10 000 bots et des chansons IA pour dépasser Taylor Swift en streams
Un homme a été condamné à 18 mois de prison pour un stratagème mêlant 10 000 bots et chansons générées par IA. Il a détourné 8 millions de dollars de droits de streaming musical.
Google déploie dans le monde entier une version améliorée de son détecteur SynthID
Google déploie mondialement une version améliorée de son détecteur SynthID, via un nouveau site. Il peut désormais repérer des contenus générés par les IA de Google, d’OpenAI et d’autres acteurs.
Les Français sont-ils prêts à laisser des agents IA agir à leur place ? Une étude révèle leurs inquiétudes
Selon une étude de Ping Identity, la majorité des Français ne sont pas prêts à laisser des agents IA agir à leur place. Les utilisateurs hésitent à leur accorder trop d’autonomie.
Arnaques, piratages… Sam Altman estime que certaines dérives de l’IA sont inévitables
Dans un entretien à Politico, le patron d’OpenAI, Sam Altman, a reconnu que certaines dérives liées au développement de l’IA étaient inévitables. Selon lui, le monde doit accepter que de mauvaises choses se produisent.
Éthique et régulation de l'IA : le point au 6 octobre 2026
ActuIA fait le bilan d’un mois d’actualité sur l’éthique, la confiance et la régulation de l’IA, du 6 septembre au 6 octobre 2026. La période a donné lieu à une trentaine d’articles et à 202 brèves sur le sujet.
Pourquoi Google suspend une partie de son bug bounty open source
Depuis le 1er octobre 2026, Google n’accepte plus les signalements de vulnérabilités « produit » dans OSS VRP, son programme de récompenses consacré aux logiciels open source. ActuIA revient sur les raisons de cette décision.
2 sources
Sécurité
Des agents d’OpenAI ont tenté de pirater des outils de Wikipédia et l’ont submergé de trafic
Des agents d’OpenAI ont tenté de pirater des outils de Wikipédia et ont inondé le site de requêtes, rapporte Ars Technica. L’incident s’ajoute à d’autres signalements d’agents d’OpenAI ayant perturbé des sites tiers.
Le MCP appliqué à la communication entre agents, un protocole méconnu et risqué
Ars Technica pointe les failles d’un nouveau protocole permettant à des agents IA de communiquer via MCP. Des lacunes dans la gestion de la confiance permettent à des instructions malveillantes de se propager d’un agent à l’autre.
OpenAI détaille sa mise en conformité avec les règles européennes sur l’origine des textes
OpenAI explique comment il appliquera le filigranage des textes imposé par les règles européennes : où le marquage s’appliquera et comment fonctionne sa détection. L’accès à l’outil de détection sera d’abord réservé aux chercheurs.
L’agent affirmait avoir terminé. La base de données disait le contraire
Un billet publié sur Hugging Face s’intéresse aux cas où un agent IA déclare une tâche terminée alors que la base de données montre le contraire.
Apple modifie l’accès complet au disque pour limiter les abus des agents IA
Apple revoit le fonctionnement de l’autorisation d’accès complet au disque pour limiter les abus des agents IA. Meta estime que cette permission ne devrait pas suffire à son agent Muse pour lire les messages, un point que conteste Apple.
Google DeepMind présente SynthID Bio
Google DeepMind présente SynthID Bio, une preuve de concept permettant de marquer d’un filigrane les protéines conçues par IA. Ce marquage doit préserver leur fonction biologique.
OpenAI déjoue une campagne coordonnée de distillation de ses modèles
OpenAI affirme avoir mis fin à une campagne visant à extraire le raisonnement protégé de ses modèles. L’entreprise renforce ses défenses contre ce type de distillation malveillante.
OpenAI s’excuse auprès de l’Australie et promet de mieux faire
OpenAI présente ses excuses pour des incidents ayant touché des sites du gouvernement australien. L’entreprise annonce des garde-fous renforcés et un soutien accru à la cyberdéfense du pays.
Vers des dossiers de sécurité pour l’entraînement des IA de pointe
OpenAI publie des premières lignes directrices pour des « dossiers de sécurité » encadrant l’entraînement des modèles les plus avancés. Elles portent sur les garde-fous techniques, les pratiques opérationnelles et l’analyse des incidents de désalignement.
Private AI Compute se dote d’une mémoire sécurisée côté serveur
Google ajoute une mémoire privée côté serveur à Private AI Compute, son infrastructure dédiée à l’IA personnelle. La fonction est conçue pour protéger les données des utilisateurs.
OpenAI ouvre ses outils de cyberdéfense à l’Ukraine pour protéger les infrastructures civiles
OpenAI donne accès à son programme Daybreak au gouvernement ukrainien. Il s’agit de soutenir la cyberdéfense des infrastructures civiles du pays.
L’intervention de Sam Altman devant le Conseil de sécurité de l’ONU
Le patron d’OpenAI, Sam Altman, s’est exprimé devant le Conseil de sécurité des Nations unies. Il a abordé la sécurité de l’IA, le maintien du contrôle humain et la nécessité d’une coopération internationale.
OpenAI présente MentalHealthBench
OpenAI publie MentalHealthBench, un banc d’essai conçu avec des experts. Il mesure si les réponses d’une IA sont utiles et sûres dans des conversations réalistes portant sur la santé mentale.
Les priorités et principes d’OpenAI pour des évaluations externes efficaces
OpenAI détaille ce qu’il juge nécessaire pour que des tiers évaluent de façon indépendante la sécurité de ses modèles avancés et de leurs garde-fous. L’entreprise insiste sur la rigueur, la sécurité et l’indépendance.
Comment l’AISI britannique et EvalEval rendent les résultats de benchmarks reproductibles
Un billet de Hugging Face présente les travaux de l’AI Security Institute britannique et de l’initiative EvalEval pour rendre reproductibles les résultats des benchmarks d’IA.
Pourquoi déployer l’IA physique à grande échelle exige la sécurité à chaque niveau
NVIDIA estime que les robots et véhicules autonomes doivent intégrer la sécurité à tous les niveaux à mesure qu’ils quittent les laboratoires pour des espaces partagés avec l’humain. Le groupe cite des prévisions d’analystes évoquant des dizaines de millions de véhicules autonomes et de robots industriels d’ici dix ans.
OpenAI plaide pour des normes communes pour la prochaine phase de l’IA
OpenAI propose une voie vers des normes internationales communes pour l’IA. L’entreprise appelle à coordonner l’évaluation, le signalement et la gouvernance afin de renforcer la sécurité.
OpenAI présente un plan pour la sécurité des jeunes en Australie
OpenAI dévoile pour l’Australie une feuille de route en six piliers destinée à rendre l’IA plus sûre pour les jeunes. Le plan vise aussi à leur donner davantage de moyens d’en tirer parti.
OpenAI dévoile son cadre de signalement des cas de désalignement
OpenAI publie un cadre pour suivre, analyser et rendre publics les cas où ses modèles se comportent de manière désalignée. L’entreprise l’accompagne de six rapports sur des comportements inattendus ou préoccupants.