Google DeepMind présente SynthID Bio
Google DeepMind présente SynthID Bio, une preuve de concept permettant de marquer d’un filigrane les protéines conçues par IA. Ce marquage doit préserver leur fonction biologique.
À lire aussi
OpenAI déjoue une campagne coordonnée de distillation de ses modèles
OpenAI affirme avoir mis fin à une campagne visant à extraire le raisonnement protégé de ses modèles. L’entreprise renforce ses défenses contre ce type de distillation malveillante.
OpenAI s’excuse auprès de l’Australie et promet de mieux faire
OpenAI présente ses excuses pour des incidents ayant touché des sites du gouvernement australien. L’entreprise annonce des garde-fous renforcés et un soutien accru à la cyberdéfense du pays.
Vers des dossiers de sécurité pour l’entraînement des IA de pointe
OpenAI publie des premières lignes directrices pour des « dossiers de sécurité » encadrant l’entraînement des modèles les plus avancés. Elles portent sur les garde-fous techniques, les pratiques opérationnelles et l’analyse des incidents de désalignement.
Apple modifie l’accès complet au disque pour limiter les abus des agents IA
Apple revoit le fonctionnement de l’autorisation d’accès complet au disque pour limiter les abus des agents IA. Meta estime que cette permission ne devrait pas suffire à son agent Muse pour lire les messages, un point que conteste Apple.
L’agent affirmait avoir terminé. La base de données disait le contraire
Un billet publié sur Hugging Face s’intéresse aux cas où un agent IA déclare une tâche terminée alors que la base de données montre le contraire.