Le chancelier allemand Friedrich Merz et le patron de NVIDIA, Jensen Huang, ont débattu de la feuille de route allemande en matière d'IA dans une ancienne centrale électrique de Berlin, avec l'industrie au cœur des échanges. Jensen Huang a rappelé les liens anciens de NVIDIA avec l'industrie allemande, du jeu vidéo à l'automobile.
Face au doublement du coût par exécution de son outil de revue de code par IA, Cloudflare a analysé sa consommation de tokens. La mise en cache des prompts et un aiguillage intelligent entre modèles ont réduit sa facture d'inférence de 68 % tout en accélérant les revues.
Tenstorrent, qui se pose en concurrent de Nvidia, lève 1,5 milliard de dollars et atteint une valorisation de 6,2 milliards. Courtisée par des acquéreurs plus tôt dans l'année, l'entreprise a choisi de rester indépendante.
Modal va faire tourner Sandboxes, son produit d'exécution d'agents IA, sur le processeur Arm Vera de Nvidia, abandonnant pour la première fois l'x86. Ses propres tests montrent jusqu'à deux fois plus de tâches traitées qu'un serveur Intel, des résultats qui n'ont pas été vérifiés de façon indépendante.
Les obligations de CoreWeave sont passées la semaine dernière en zone de détresse, les investisseurs exigeant un rendement supérieur de plus de 1 000 points de base à celui des emprunts d'État. Cette chute relance la question d'une bulle du crédit privé autour des infrastructures d'IA.
Amazon lance TorchNeuron, un backend open source qui permet de faire tourner du code PyTorch sur ses puces Trainium en modifiant une seule ligne. Disponible en bêta publique le 20 octobre sous licence Apache 2.0, il prend en charge Trainium2 et Trainium3, mais pas encore toutes les fonctions de PyTorch.