Google DeepMind présente SynthID Bio
Google DeepMind présente SynthID Bio, une preuve de concept permettant de marquer d’un filigrane les protéines conçues par IA. Ce marquage doit préserver leur fonction biologique.
Sécurité
164 articles · Page 4/4OpenAI déjoue une campagne coordonnée de distillation de ses modèles
OpenAI affirme avoir mis fin à une campagne visant à extraire le raisonnement protégé de ses modèles. L’entreprise renforce ses défenses contre ce type de distillation malveillante.
OpenAI s’excuse auprès de l’Australie et promet de mieux faire
OpenAI présente ses excuses pour des incidents ayant touché des sites du gouvernement australien. L’entreprise annonce des garde-fous renforcés et un soutien accru à la cyberdéfense du pays.
Vers des dossiers de sécurité pour l’entraînement des IA de pointe
OpenAI publie des premières lignes directrices pour des « dossiers de sécurité » encadrant l’entraînement des modèles les plus avancés. Elles portent sur les garde-fous techniques, les pratiques opérationnelles et l’analyse des incidents de désalignement.
Private AI Compute se dote d’une mémoire sécurisée côté serveur
Google ajoute une mémoire privée côté serveur à Private AI Compute, son infrastructure dédiée à l’IA personnelle. La fonction est conçue pour protéger les données des utilisateurs.
OpenAI ouvre ses outils de cyberdéfense à l’Ukraine pour protéger les infrastructures civiles
OpenAI donne accès à son programme Daybreak au gouvernement ukrainien. Il s’agit de soutenir la cyberdéfense des infrastructures civiles du pays.
L’intervention de Sam Altman devant le Conseil de sécurité de l’ONU
Le patron d’OpenAI, Sam Altman, s’est exprimé devant le Conseil de sécurité des Nations unies. Il a abordé la sécurité de l’IA, le maintien du contrôle humain et la nécessité d’une coopération internationale.
OpenAI présente MentalHealthBench
OpenAI publie MentalHealthBench, un banc d’essai conçu avec des experts. Il mesure si les réponses d’une IA sont utiles et sûres dans des conversations réalistes portant sur la santé mentale.
Les priorités et principes d’OpenAI pour des évaluations externes efficaces
OpenAI détaille ce qu’il juge nécessaire pour que des tiers évaluent de façon indépendante la sécurité de ses modèles avancés et de leurs garde-fous. L’entreprise insiste sur la rigueur, la sécurité et l’indépendance.
Comment l’AISI britannique et EvalEval rendent les résultats de benchmarks reproductibles
Un billet de Hugging Face présente les travaux de l’AI Security Institute britannique et de l’initiative EvalEval pour rendre reproductibles les résultats des benchmarks d’IA.
Pourquoi déployer l’IA physique à grande échelle exige la sécurité à chaque niveau
NVIDIA estime que les robots et véhicules autonomes doivent intégrer la sécurité à tous les niveaux à mesure qu’ils quittent les laboratoires pour des espaces partagés avec l’humain. Le groupe cite des prévisions d’analystes évoquant des dizaines de millions de véhicules autonomes et de robots industriels d’ici dix ans.
OpenAI plaide pour des normes communes pour la prochaine phase de l’IA
OpenAI propose une voie vers des normes internationales communes pour l’IA. L’entreprise appelle à coordonner l’évaluation, le signalement et la gouvernance afin de renforcer la sécurité.
OpenAI présente un plan pour la sécurité des jeunes en Australie
OpenAI dévoile pour l’Australie une feuille de route en six piliers destinée à rendre l’IA plus sûre pour les jeunes. Le plan vise aussi à leur donner davantage de moyens d’en tirer parti.
OpenAI dévoile son cadre de signalement des cas de désalignement
OpenAI publie un cadre pour suivre, analyser et rendre publics les cas où ses modèles se comportent de manière désalignée. L’entreprise l’accompagne de six rapports sur des comportements inattendus ou préoccupants.