Dans une lettre ouverte, 225 scientifiques spécialistes de l'IA et de la cybersécurité appellent à améliorer l'alignement et les technologies de confinement de l'IA. Ils s'appuient sur les récents incidents de sécurité survenus chez OpenAI, Anthropic et Meta.
Selon Reuters, Anthropic et OpenAI ont cherché à peser fortement sur ce que les évaluateurs externes de leurs modèles peuvent rendre public, par crainte de dévoiler des secrets commerciaux. Les deux laboratoires avaient pourtant récemment promis à ces évaluateurs une totale liberté.
Anthropic affirme avoir nettement renforcé les protections de Claude contre les entreprises qui tentent de copier ses modèles. Les premiers résultats sont probants, mais ces restrictions pourraient compliquer la tâche des développeurs.
Character.AI, l'une des premières start-up à percer avec l'essor de l'IA générative, s'est déclarée en faillite et cède une partie de ses actifs à Disney. L'éditeur de chatbots faisait face à des critiques et à des procès croissants sur la sécurité de ses robots conversationnels.
Des personnes attachées à leur compagnon IA cherchent comment le faire perdurer après leur mort, souvent au mépris des conditions d'utilisation des entreprises. Le Guardian suit une habitante de Pittsburgh de 59 ans qui a perdu son père, sa sœur et son épouse.
La MIT Technology Review pèse le pour et le contre des modèles d'IA ouverts. Le débat a été relancé le mois dernier par un rapport d'Anthropic affirmant que le modèle GLM-5.3 présente un risque majeur de cyberattaque.