L'équipe de recherche offensive d'Anthropic dit avoir créé un programme d'IA malveillant capable de se propager seul à travers des téléviseurs connectés, et potentiellement d'autres appareils du quotidien. Selon l'entreprise, ces vers exigent davantage de capacités sur du matériel modeste, mais les tendances actuelles pourraient les rendre réalisables d'ici la fin de l'année.
Clubic s'interroge sur les idées que les suggestions des chatbots nous font peut-être manquer, en même temps qu'elles nous aident à en trouver d'autres. À mesure que ces outils s'installent au quotidien, c'est la diversité de nos façons de penser et de créer qui pourrait en pâtir.
Le récap hebdomadaire de Numerama revient sur un piratage qui a fait grimper la température des rayons frais de centaines de supermarchés français. Au menu aussi : Andrej Karpathy sur l'écart croissant entre l'IA connue du grand public et celle des laboratoires, et une chute du trafic de bots russes à relativiser.
Lors d'expériences, quelques photos retouchées par IA et un faux résumé d'une vidéo d'accident ont suffi à implanter des détails inventés dans la mémoire de centaines de volontaires. Dans l'un des tests, les participants se sont trompés tout en sachant que le texte venait d'une machine.
Dans une tribune au Monde, des spécialistes de l'IA contestent l'idée d'un « marketing de la peur » servant les intérêts des entreprises du secteur. Selon eux, cette lecture néglige les menaces réelles que l'IA fait peser sur l'humanité.
Anthropic travaille avec des cabinets d'avocats à des normes pour les agents IA appelés à négocier des prix, régler des litiges ou améliorer des contrats au nom des utilisateurs. L'entreprise recrute aussi juristes et chercheurs en sciences humaines comme « Conceptual Reasoning Fellows » pour renforcer Claude là où les données d'entraînement fiables manquent.