Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
InfrastructureAnalyse · Sur le radarCoreWeave Blog→ original

CoreWeave a mesuré Vera Rubin : jusqu'à 10 fois plus de tokens par mégawatt que le GB200

CoreWeave a été la première à mesurer le nouveau rack NVIDIA Vera Rubin NVL72 (72 GPU dans une seule armoire), face à son prédécesseur, le GB200 NVL72. Elle a compté les tokens — les fragments de texte à partir desquels le modèle compose sa réponse — par seconde et par mégawatt d'électricité. Sur DeepSeek R1, à vitesse de réponse égale pour un utilisateur, le gain atteint jusqu'à 10 fois. Pour les services agentiques, cela signifie davantage de requêtes dans le même budget énergétique, mais ces chiffres ne sont pour l'instant avancés que par le fournisseur lui-même.

Traité par IA depuis CoreWeave Blog ; édité par Hamidun News
CoreWeave a mesuré Vera Rubin : jusqu'à 10 fois plus de tokens par mégawatt que le GB200
Source : CoreWeave Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireCoreWeave Blog ↗
Rédacteur en chef
Chiffre clé #1Le rack compte 72 GPU Rubin et 36 CPU Vera, reliés par NVLink 6 à 260 To/s
Chiffre clé #2Les deux racks ont été testés avec NVFP4, la prédiction multi-tokens et Dynamo
Chiffre clé #3Les clients attendent encore les gains, ils n'ont pas de mesures de leur côté

CoreWeave est un fournisseur cloud qui loue des GPU pour les charges de travail d'IA. L'entreprise a publié les premières mesures d'un nouveau rack NVIDIA Vera Rubin NVL72 : une armoire serveur où 72 processeurs graphiques Rubin fonctionnent comme un seul grand accélérateur. Elle l'a comparé à la génération précédente, le GB200 NVL72, sur le modèle de raisonnement DeepSeek R1.

La métrique retenue est le nombre de tokens par mégawatt. Un token est un fragment de mot à partir duquel le modèle compose sa réponse, et le mégawatt correspond à la puissance électrique maximale qu'on peut raccorder à une salle de serveurs. En clair, il s'agit de mesurer la quantité de texte qu'un centre de données produit par unité d'énergie.

À vitesse de réponse égale, le nouveau rack affiche jusqu'à 10 fois plus de tokens que le GB200. Pour ceux qui construisent des agents, cela concerne directement le prix du token.

Ce qui a été mesuré

Début juin, CoreWeave a annoncé avoir été la première de l'industrie à mettre en service et à valider un Vera Rubin NVL72 complet : alimentation, refroidissement, réseau et calcul. Elle publie aujourd'hui les premiers résultats sur du silicium réel. Les tests portent sur DeepSeek R1, un modèle de raisonnement sur lequel reposent aujourd'hui de nombreux scénarios agentiques.

L'entreprise ne mesure pas seulement la vitesse. Elle rapporte le débit en tokens par seconde et par mégawatt à l'interactivité, c'est-à-dire à la vitesse ressentie par un utilisateur ou un agent (tokens par seconde et par utilisateur). C'est plus honnête que de pousser la charge au maximum : si la réponse arrive lentement, l'utilisateur se moque du nombre total de tokens produits par le rack. À interactivité comparable, le Vera Rubin NVL72 affiche un gain pouvant aller jusqu'à 10 fois en tokens par seconde et par mégawatt.

Les deux plateformes ont été testées avec les optimisations récentes activées : parallélisme d'experts à grande échelle (un modèle à mixture-of-experts est réparti sur de nombreux GPU), format NVFP4 à précision réduite, prédiction multi-tokens (le modèle prédit plusieurs tokens par étape) et séparation des phases prefill et decode. Le tout tourne sur NVIDIA TensorRT-LLM et Dynamo. La comparaison oppose donc le meilleur au meilleur, et non du matériel neuf à de l'ancien non optimisé.

Pourquoi c'est important pour les agents

Un modèle de raisonnement ne répond pas en une seule passe : il planifie, vérifie et corrige, si bien qu'il génère nettement plus de tokens qu'un chatbot classique pour une même requête. Chaque token traverse la mémoire et les liaisons entre GPU. C'est pourquoi, selon CoreWeave, la réactivité, et pas seulement les FLOPs bruts, détermine si un agent répond instantanément ou ralentit.

La plateforme est conçue pour cet usage : 72 GPU Rubin et 36 CPU Vera dans un même rack, interconnectés par un réseau NVLink 6 entièrement maillé à 260 To/s, et un Transformer Engine doté d'une prise en charge native du NVFP4. Concrètement, la marge de 10 fois en tokens par mégawatt permet deux choses : servir beaucoup plus de requêtes dans les mêmes limites de puissance, ou servir le même trafic avec une consommation bien moindre. Les deux options font baisser le coût du token.

CoreWeave cite aussi les attentes de clients, sans les nommer. Une entreprise mondiale de cybersécurité table sur un gain de 10 fois par watt en détection de menaces. Une société développant un agent de code autonome attend une hausse similaire du nombre de requêtes par GPU, avec un prix du token nettement plus bas. Un moteur de recherche fondé sur l'IA, déjà en production sur GB200 NVL72, vise un débit par GPU comparable. Il s'agit bien d'attentes, et non de résultats mesurés.

Réserves et conseils pratiques

Il faut lire ces chiffres avec prudence. Il s'agit d'une publication du fournisseur cloud lui-même, et non d'un benchmark indépendant comparable à MLPerf. La mesure porte sur un seul modèle, DeepSeek R1, et la formulation retenue est « jusqu'à 10 fois ». L'article ne donne ni valeurs absolues de tokens par seconde, ni prix du token, si bien qu'on ne peut pas les convertir en budget. Par ailleurs, ce gain suppose l'ensemble des optimisations : sans Dynamo, sans NVFP4 ni séparation prefill/decode, le résultat sera vraisemblablement plus modeste.

CoreWeave rappelle qu'avec le GB200 NVL72, les premiers chiffres se sont nettement améliorés pendant des mois, après réglage de l'ordonnanceur, du réseau et des logiciels, et elle table sur une trajectoire semblable ici. L'entreprise promet de publier de nouvelles mises à jour.

Pour les équipes qui développent des services agentiques, la conclusion est simple. Si votre principal poste de dépenses est le coût des tokens de modèles de raisonnement, prévoyez dans votre feuille de route la génération de racks suivante, et vérifiez dès maintenant que votre pile logicielle sait exploiter NVFP4 et la séparation prefill/decode. Ne bâtissez des prévisions de prix par token qu'après des tests indépendants sur vos propres charges de travail.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qui a été mesuré ?

Début juin, CoreWeave a annoncé avoir été la première de l'industrie à mettre en service et à valider un Vera Rubin NVL72 complet : alimentation, refroidissement, réseau et calcul. Elle publie aujourd'hui les premiers résultats sur du silicium réel. Les tests portent sur DeepSeek R1, un modèle de raisonnement sur lequel reposent aujourd'hui de nombreux scénarios agentiques. L'entreprise ne mesure pas seulement la vitesse.

Pourquoi c'est important pour les agents?

Un modèle de raisonnement ne répond pas en une seule passe : il planifie, vérifie et corrige, si bien qu'il génère nettement plus de tokens qu'un chatbot classique pour une même requête. Chaque token traverse la mémoire et les liaisons entre GPU. C'est pourquoi, selon CoreWeave, la réactivité, et pas seulement les FLOPs bruts, détermine si un agent répond instantanément ou ralentit.

Que sait-on sur Réserves et conseils pratiques ?

Il faut lire ces chiffres avec prudence. Il s'agit d'une publication du fournisseur cloud lui-même, et non d'un benchmark indépendant comparable à MLPerf. La mesure porte sur un seul modèle, DeepSeek R1, et la formulation retenue est « jusqu'à 10 fois ». L'article ne donne ni valeurs absolues de tokens par seconde, ni prix du token, si bien qu'on ne peut pas les convertir en budget.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…