Nebius et Nscale font partie des partenaires qui prévoient de construire leur infrastructure autour des processeurs Vera de NVIDIA. Le fabricant explique que les agents, qui récupèrent des données, appellent des outils et exécutent du code, dépendent beaucoup du CPU, et présente Vera comme la puce qui accélère ces étapes.
Le nombre de néoclouds, qui louent de la puissance de calcul pour l'IA, a explosé en quatre ans. Wall Street les surveille de près, car leur modèle économique, qui brasse des dizaines de milliards de dollars, interroge.
Le directeur général de HSBC met en garde : malgré l'essor de l'IA, tous les centres de données, qui abritent les serveurs de l'IA et du cloud, ne seront pas de bons investissements.
Pour répondre à la demande en mémoire associée aux GPU d'IA, Samsung construit un immense complexe de production à Pyeongtaek, en Corée du Sud. Trois usines y tournent déjà en continu et une quatrième démarre.
IBM et d'autres contributeurs publient la version 1.0 de llm-d, un framework open source d'inférence distribuée, à la veille de la PyTorch Conference North America. Elle ajoute des contrôles opérationnels pour faire tourner de grands modèles de façon fiable sur ses propres serveurs.
Dans une tribune au « Monde », des collectifs opposés à des projets de centres de données alertent sur leur consommation d'eau et d'électricité et sur l'artificialisation des terres agricoles. Ils présentent la lutte locale comme un refus de la course à l'IA.