OpenAI détaille comment il a fait monter en charge Habitat, son système de stockage pour ChatGPT, grâce à une architecture multi-locataire fiable, un cache mondial et Azure Cosmos DB. Les lectures seraient désormais douze fois plus rapides.
Avec la hausse des dépenses d'inférence, l'IA en entreprise entre dans une phase plus attentive aux coûts. Les dirigeants arbitrent entre lieux d'exécution des modèles, choix des modèles et volume de données confiées à des tiers, ce qui redessine leurs décisions d'achat.
Selon les investisseurs, l'IA apparaît comme une immense opportunité ou comme un pari de plus en plus risqué, entre dépenses d'infrastructure colossales et rejet croissant des data centers par le public. La chronique estime que les deux lectures se tiennent, alors que les gros investissements en capital-risque se sont poursuivis cette semaine.
CNBC rend compte de la conférence GTC de Nvidia à Berlin, où l'engouement pour le patron du fabricant de puces côtoyait démonstrations robotiques et signes de tension chez les fournisseurs de « neocloud ».
Pour suivre l'envolée des besoins en calcul liés à l'IA, Schneider Electric mise sur la préfabrication et des équipements modulaires. Le groupe présente de nouvelles infrastructures électriques conçues avec NVIDIA pour accélérer la construction des centres de données dédiés.
Le patron de Nvidia, Jensen Huang, effectue sa première visite au Kazakhstan. Ce déplacement met en lumière les ambitions croissantes du pays dans l'IA et son attrait pour les entreprises étrangères.