Des chercheurs d'Apple comparent deux façons d'entraîner des modèles de langue pour des langues peu dotées en textes, où les mêmes données doivent être répétées de nombreuses fois. Selon eux, ajouter des données d'une langue mieux dotée donne de meilleurs résultats qu'un réglage poussé des hyperparamètres, comme une forte régularisation des poids.
L'équipe Qwen d'Alibaba a dévoilé QwenGyre, un système d'apprentissage par renforcement en ligne qui entraîne des agents de programmation à travers des environnements boîte noire non modifiés. Il vise des exécutions de plusieurs heures traitant près d'un million de tokens.
En bientôt quatre ans, les chatbots ont franchi plusieurs paliers en compréhension, en raisonnement et en créativité. Les tests montrent pourtant qu'ils commettent encore des bévues et restent plus riches en connaissances qu'en discernement.
Avec la méthode MASS de Sakana AI, un même modèle de langage résout des tâches, juge les résultats et affine ses procédures, jusqu'à battre le modèle de départ dans près de 70 % des cas après deux cycles. Revers de la médaille : quand le modèle rate la même erreur dans ses trois rôles, il peut la prendre pour un progrès et la renforcer à l'entraînement.
Des chercheurs de Microsoft ont constaté que les agents IA autonomes s’enferment dans des « bassins d’idées », des zones de solutions locales nées de leur contexte croissant. Leur méthode Fork-and-Flush efface l’historique en conservant l’espace de travail, avec des résultats jusqu’à 66 % meilleurs à budget de calcul égal.
StudentSim, de Microsoft Research, modélise la façon dont des élèves pourraient interagir avec des tuteurs IA, afin de les évaluer et de les améliorer avant de les confronter à de vrais apprenants. Il couvre des matières comme les échecs, l’écriture et les mathématiques.