Context Language Models : des modèles qui gèrent leur propre contexte pour gagner en performance et en coût
Des chercheurs de Meta, du MIT et de l'université de Washington présentent les Context Language Models, capables de gérer et modifier leur propre contexte au lieu de s'appuyer sur des mécanismes figés de résumé, de compression ou de recherche. Ils font état de gains notables en performance et en efficacité de calcul.