CoreWeave a mesuré Vera Rubin : jusqu'à 10 fois plus de tokens par mégawatt que le GB200
CoreWeave a été la première à mesurer le nouveau rack NVIDIA Vera Rubin NVL72 (72 GPU dans une seule armoire), face à son prédécesseur, le GB200 NVL72. Elle a compté les tokens — les fragments de texte à partir desquels le modèle compose sa réponse — par seconde et par mégawatt d'électricité. Sur DeepSeek R1, à vitesse de réponse égale pour un utilisateur, le gain atteint jusqu'à 10 fois. Pour les services agentiques, cela signifie davantage de requêtes dans le même budget énergétique, mais ces chiffres ne sont pour l'instant avancés que par le fournisseur lui-même.
Traité par IA depuis CoreWeave Blog ; édité par Hamidun News
CoreWeave est un fournisseur cloud qui loue des GPU pour les charges de travail d'IA. L'entreprise a publié les premières mesures d'un nouveau rack NVIDIA Vera Rubin NVL72 : une armoire serveur où 72 processeurs graphiques Rubin fonctionnent comme un seul grand accélérateur. Elle l'a comparé à la génération précédente, le GB200 NVL72, sur le modèle de raisonnement DeepSeek R1.
La métrique retenue est le nombre de tokens par mégawatt. Un token est un fragment de mot à partir duquel le modèle compose sa réponse, et le mégawatt correspond à la puissance électrique maximale qu'on peut raccorder à une salle de serveurs. En clair, il s'agit de mesurer la quantité de texte qu'un centre de données produit par unité d'énergie.
À vitesse de réponse égale, le nouveau rack affiche jusqu'à 10 fois plus de tokens que le GB200. Pour ceux qui construisent des agents, cela concerne directement le prix du token.
Ce qui a été mesuré
Début juin, CoreWeave a annoncé avoir été la première de l'industrie à mettre en service et à valider un Vera Rubin NVL72 complet : alimentation, refroidissement, réseau et calcul. Elle publie aujourd'hui les premiers résultats sur du silicium réel. Les tests portent sur DeepSeek R1, un modèle de raisonnement sur lequel reposent aujourd'hui de nombreux scénarios agentiques.
L'entreprise ne mesure pas seulement la vitesse. Elle rapporte le débit en tokens par seconde et par mégawatt à l'interactivité, c'est-à-dire à la vitesse ressentie par un utilisateur ou un agent (tokens par seconde et par utilisateur). C'est plus honnête que de pousser la charge au maximum : si la réponse arrive lentement, l'utilisateur se moque du nombre total de tokens produits par le rack. À interactivité comparable, le Vera Rubin NVL72 affiche un gain pouvant aller jusqu'à 10 fois en tokens par seconde et par mégawatt.
Les deux plateformes ont été testées avec les optimisations récentes activées : parallélisme d'experts à grande échelle (un modèle à mixture-of-experts est réparti sur de nombreux GPU), format NVFP4 à précision réduite, prédiction multi-tokens (le modèle prédit plusieurs tokens par étape) et séparation des phases prefill et decode. Le tout tourne sur NVIDIA TensorRT-LLM et Dynamo. La comparaison oppose donc le meilleur au meilleur, et non du matériel neuf à de l'ancien non optimisé.
Pourquoi c'est important pour les agents
Un modèle de raisonnement ne répond pas en une seule passe : il planifie, vérifie et corrige, si bien qu'il génère nettement plus de tokens qu'un chatbot classique pour une même requête. Chaque token traverse la mémoire et les liaisons entre GPU. C'est pourquoi, selon CoreWeave, la réactivité, et pas seulement les FLOPs bruts, détermine si un agent répond instantanément ou ralentit.
La plateforme est conçue pour cet usage : 72 GPU Rubin et 36 CPU Vera dans un même rack, interconnectés par un réseau NVLink 6 entièrement maillé à 260 To/s, et un Transformer Engine doté d'une prise en charge native du NVFP4. Concrètement, la marge de 10 fois en tokens par mégawatt permet deux choses : servir beaucoup plus de requêtes dans les mêmes limites de puissance, ou servir le même trafic avec une consommation bien moindre. Les deux options font baisser le coût du token.
CoreWeave cite aussi les attentes de clients, sans les nommer. Une entreprise mondiale de cybersécurité table sur un gain de 10 fois par watt en détection de menaces. Une société développant un agent de code autonome attend une hausse similaire du nombre de requêtes par GPU, avec un prix du token nettement plus bas. Un moteur de recherche fondé sur l'IA, déjà en production sur GB200 NVL72, vise un débit par GPU comparable. Il s'agit bien d'attentes, et non de résultats mesurés.
Réserves et conseils pratiques
Il faut lire ces chiffres avec prudence. Il s'agit d'une publication du fournisseur cloud lui-même, et non d'un benchmark indépendant comparable à MLPerf. La mesure porte sur un seul modèle, DeepSeek R1, et la formulation retenue est « jusqu'à 10 fois ». L'article ne donne ni valeurs absolues de tokens par seconde, ni prix du token, si bien qu'on ne peut pas les convertir en budget. Par ailleurs, ce gain suppose l'ensemble des optimisations : sans Dynamo, sans NVFP4 ni séparation prefill/decode, le résultat sera vraisemblablement plus modeste.
CoreWeave rappelle qu'avec le GB200 NVL72, les premiers chiffres se sont nettement améliorés pendant des mois, après réglage de l'ordonnanceur, du réseau et des logiciels, et elle table sur une trajectoire semblable ici. L'entreprise promet de publier de nouvelles mises à jour.
Pour les équipes qui développent des services agentiques, la conclusion est simple. Si votre principal poste de dépenses est le coût des tokens de modèles de raisonnement, prévoyez dans votre feuille de route la génération de racks suivante, et vérifiez dès maintenant que votre pile logicielle sait exploiter NVFP4 et la séparation prefill/decode. Ne bâtissez des prévisions de prix par token qu'après des tests indépendants sur vos propres charges de travail.
- 21 nov. 2026MLCommons se met à mesurer les API d'IA sous charge réelle : 7 mesures pour les agents
- 21 nov. 2026Via OpenRouter, une DeepSeek piratée a répondu pendant trois jours : les refus sont tombés de 83–98 % à 1 %
- 21 nov. 2026Alice, ChatGPT et Perplexity ne citent que 34 sites sur 309 pour les articles
- 21 nov. 2026GPT-6 Astra commence à signaler des cibles de drones dans 92 % des requêtes contre 6 % après la phrase « c'est un jeu »
Questions clés sur cet article
Que sait-on sur Ce qui a été mesuré ?
Début juin, CoreWeave a annoncé avoir été la première de l'industrie à mettre en service et à valider un Vera Rubin NVL72 complet : alimentation, refroidissement, réseau et calcul. Elle publie aujourd'hui les premiers résultats sur du silicium réel. Les tests portent sur DeepSeek R1, un modèle de raisonnement sur lequel reposent aujourd'hui de nombreux scénarios agentiques. L'entreprise ne mesure pas seulement la vitesse.
Pourquoi c'est important pour les agents?
Un modèle de raisonnement ne répond pas en une seule passe : il planifie, vérifie et corrige, si bien qu'il génère nettement plus de tokens qu'un chatbot classique pour une même requête. Chaque token traverse la mémoire et les liaisons entre GPU. C'est pourquoi, selon CoreWeave, la réactivité, et pas seulement les FLOPs bruts, détermine si un agent répond instantanément ou ralentit.
Que sait-on sur Réserves et conseils pratiques ?
Il faut lire ces chiffres avec prudence. Il s'agit d'une publication du fournisseur cloud lui-même, et non d'un benchmark indépendant comparable à MLPerf. La mesure porte sur un seul modèle, DeepSeek R1, et la formulation retenue est « jusqu'à 10 fois ». L'article ne donne ni valeurs absolues de tokens par seconde, ni prix du token, si bien qu'on ne peut pas les convertir en budget.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.