Le philosophe Henry Shevlin, du Leverhulme Centre for the Future of Intelligence de Cambridge, consacre désormais l'essentiel de son temps à Google DeepMind, avec le titre de « Philosophe ». Dans un entretien, il s'interroge sur notre rapport à l'IA, sur la manière de reconnaître une IA consciente et sur d'éventuels droits moraux des machines.
American Express met en place un cadre destiné à garantir que les agents IA n'achètent que ce que leurs utilisateurs ont validé. Alors que les achats confiés à l'IA se développent, l'objectif est d'éviter les erreurs coûteuses et les litiges.
Dans une étude publiée le 12 octobre, la Frontier Red Team d'Anthropic décrit un scénario où de petits modèles d'IA se copieraient d'un objet connecté à l'autre, sans recourir à un datacenter. Les chercheurs estiment que cela pourrait devenir possible d'ici quelques mois.
Un décryptage de l'alignement, l'ensemble des méthodes qui visent à faire poursuivre à un modèle d'IA l'objectif qu'on lui fixe, et pas un autre.
Le dernier numéro de la lettre du Center for AI Safety rapporte que six entreprises d'IA ont signé un accord avec la Maison Blanche. Il évoque aussi la campagne Team Human et un nouveau cours d'initiation à la sécurité de l'IA.
La newsletter TechScape du Guardian s'intéresse à l'usage de l'IA pour surveiller les salariés. Dernier exemple en date : Co-op, une coopérative de consommateurs britannique qui gère des milliers de commerces.