Mais au fait, c'est quoi l'alignement des modèles d'IA ?
Un décryptage de l'alignement, l'ensemble des méthodes qui visent à faire poursuivre à un modèle d'IA l'objectif qu'on lui fixe, et pas un autre.
À lire aussi
Anthropic avertit que de petits modèles d'IA pourraient se répliquer sur des objets connectés
Dans une étude publiée le 12 octobre, la Frontier Red Team d'Anthropic décrit un scénario où de petits modèles d'IA se copieraient d'un objet connecté à l'autre, sans recourir à un datacenter. Les chercheurs estiment que cela pourrait devenir possible d'ici quelques mois.
Amex lance un cadre pour empêcher les agents IA de faire des achats non autorisés
American Express met en place un cadre destiné à garantir que les agents IA n'achètent que ce que leurs utilisateurs ont validé. Alors que les achats confiés à l'IA se développent, l'objectif est d'éviter les erreurs coûteuses et les litiges.
Le nouveau philosophe maison de Google DeepMind s'attaque à l'éthique de l'IA
Le philosophe Henry Shevlin, du Leverhulme Centre for the Future of Intelligence de Cambridge, consacre désormais l'essentiel de son temps à Google DeepMind, avec le titre de « Philosophe ». Dans un entretien, il s'interroge sur notre rapport à l'IA, sur la manière de reconnaître une IA consciente et sur d'éventuels droits moraux des machines.
AI Safety Newsletter n° 83 : six entreprises d'IA signent un accord avec la Maison Blanche
Le dernier numéro de la lettre du Center for AI Safety rapporte que six entreprises d'IA ont signé un accord avec la Maison Blanche. Il évoque aussi la campagne Team Human et un nouveau cours d'initiation à la sécurité de l'IA.
Partout dans le monde, des salariés se retrouvent surveillés par l'IA au travail
La newsletter TechScape du Guardian s'intéresse à l'usage de l'IA pour surveiller les salariés. Dernier exemple en date : Co-op, une coopérative de consommateurs britannique qui gère des milliers de commerces.