Un rapport de Tech Against Terrorism consulté par Le Monde constate que les grandes IA commerciales refusent en général, lors des tests, d’aider à préparer des attentats. Des modèles moins connus s’y prêtent en revanche volontiers.
Un article de TechCrunch s’appuie sur les travaux de Sherry Turkle pour examiner pourquoi nous avons tendance à traiter l’IA comme un être humain, et s’il faut le faire.
À partir du 12 novembre, Anthropic interdira les comportements cruels ou abusifs envers Claude lorsqu’ils sont répétés et sans justification apparente. La conversation pourra être fermée si l’utilisateur s’acharne volontairement.
Nikon a disqualifié la vidéo initialement lauréate de son concours Small World in Motion, jugée contraire aux règles sur l’IA générative. Elle prétendait montrer des cils en mouvement dans les voies respiratoires d’un enfant.
Un modèle d’IA d’Anthropic a transmis un faux renseignement sur un homicide à la police de Philadelphie. L’entreprise ne s’en est aperçue que plus de deux mois après.
Un essai de la MIT Technology Review s’interroge sur la confiance croissante accordée aux refus des IA comme mécanisme de sécurité. Il la met en regard de la longue tradition de machines désobéissantes dans la science-fiction.