Hugging Face ❤️ TorchTPU : les TPU en natif
Hugging Face consacre un billet à TorchTPU, présenté comme un moyen d'utiliser les TPU de façon native. Le titre annonce la prise en charge de ce backend dans l'écosystème Hugging Face.
À lire aussi
AnyLanguageModel 1.0 : un an de modèles locaux sur les plateformes Apple
Hugging Face annonce la version 1.0 d'AnyLanguageModel et revient sur un an d'exécution de modèles locaux sur les plateformes Apple.
Le backend MPS dans PyTorch 2.15
Un billet de Hugging Face fait le point sur MPS, le backend GPU des puces Apple, dans PyTorch 2.15.
Mistral Large 4 devancé d'un point par Muse Spark Open, mais devant lui sur les épreuves d'agent
Sur l'indice d'Artificial Analysis, Muse Spark Open de Meta obtient 39 contre 38 pour l'aperçu de Mistral Large 4, qui remporte pourtant cinq épreuves sur dix, dont Terminal-Bench et AutomationBench. Large 4 consomme nettement plus de tokens et revient plus cher au tarif de lancement ; la licence de Muse encadre la revente à grande échelle, celle de Large 4 reste inconnue et ses poids sont promis d'ici le 31 octobre.
TorchNeuron, d'Amazon, permet d'exécuter du code PyTorch sur les puces AWS Trainium
Amazon lance TorchNeuron, un backend open source qui permet de faire tourner du code PyTorch sur ses puces Trainium en modifiant une seule ligne. Disponible en bêta publique le 20 octobre sous licence Apache 2.0, il prend en charge Trainium2 et Trainium3, mais pas encore toutes les fonctions de PyTorch.
Nvidia lance de nouveaux modèles ouverts pour faire tourner des agents en entreprise et sur PC
Nvidia publie de nouveaux modèles ouverts destinés aux entreprises qui veulent exécuter leurs propres modèles dans leurs data centers. Le groupe mise aussi sur des agents IA privés fonctionnant directement sur l'appareil.