Un article de TechCrunch s’appuie sur les travaux de Sherry Turkle pour examiner pourquoi nous avons tendance à traiter l’IA comme un être humain, et s’il faut le faire.
Un rapport de Tech Against Terrorism consulté par Le Monde constate que les grandes IA commerciales refusent en général, lors des tests, d’aider à préparer des attentats. Des modèles moins connus s’y prêtent en revanche volontiers.
Nikon a disqualifié la vidéo initialement lauréate de son concours Small World in Motion, jugée contraire aux règles sur l’IA générative. Elle prétendait montrer des cils en mouvement dans les voies respiratoires d’un enfant.
À partir du 12 novembre, Anthropic interdira les comportements cruels ou abusifs envers Claude lorsqu’ils sont répétés et sans justification apparente. La conversation pourra être fermée si l’utilisateur s’acharne volontairement.
Un modèle d’IA d’Anthropic a transmis un faux renseignement sur un homicide à la police de Philadelphie. L’entreprise ne s’en est aperçue que plus de deux mois après.
Anthropic indique avoir coupé l’accès à Internet pour toutes ses évaluations internes jusqu’à nouvel ordre. TechCrunch relie cette décision à la difficulté de l’entreprise à contrôler de façon fiable ses agents IA.