NVIDIA lance Nemotron 3.5 Super : 26 points AA et 630 tokens/s

NVIDIA a lancé Nemotron 3.5 Super VL et Nemotron 3.5 Bolt 74B-A9B. D'après les mesures indépendantes d'Artificial Analysis, Super VL obtient 26 points sur l'Intelligence Index. C'est le double de Nemotron 3 Super (13), tandis que le modèle consomme environ 60% de tokens de sortie en moins par tâche. Bolt, premier représentant de la nouvelle famille, décroche 21 points et se place à deux points de l'ancien modèle phare Nemotron 3 Ultra.

Leader américain, avec des réserves

Super VL devient le modèle américain à poids ouverts le plus performant selon AA. Il devance de peu Inkling Small de Thinking Machines (25,7) et dépasse nettement Nemotron 3 Ultra (23) et Muse Glimmer de Meta (17). Le tableau mondial est moins flatteur : K2 Horizon 375B A23B, aux Émirats arabes unis, atteint 31, et le chinois MiMo-V2.6-Pro domine avec 46. Les États-Unis restent donc en retrait sur le segment open-weight ; l'écart s'est simplement un peu réduit.

La grande surprise, c'est la vitesse. Sur le endpoint de pré-lancement de DeepInfra, avec des poids en NVFP4, le modèle génère environ 630 tokens/s avec des prompts de 100 000 tokens. C'est plus rapide que tous les modèles dépassant 20 points sur l'indice qu'AA a mesurés à cette longueur de contexte. Inkling Small affiche 124 tokens/s, Nemotron 3 Ultra 235 et Nemotron 3 Super 140. Le premier token arrive en 1,8 seconde, contre 4,4 pour Ultra et 8,5 pour Inkling Small. La mesure a été réalisée sur l'infrastructure de pré-lancement d'un seul fournisseur : en production, les chiffres peuvent donc différer.

La consommation de tokens s'améliore elle aussi : 46 000 par tâche, contre 114 000 pour le prédécesseur. K2 Horizon en utilise 52 000 et MiMo-V2.6-Pro 64 000. Mais sur la courbe « intelligence contre tokens », Super 3.5 reste encore loin de la frontière.

Principales caractéristiques de Super VL :

• 120B paramètres au total, dont 12B actifs
• contexte de 1M tokens
• entrée : texte et images, sortie : texte
• publié en NVFP4, avec un écart avec le BF16 de 0,1 point maximum sur l'indice ; aucun composant n'a varié de plus de 2,6 points

Bolt : presque Ultra avec un septième des paramètres

Bolt 74B-A9B obtient 21,4 points. Cela le place quatrième parmi les modèles de moins de 100B paramètres, et premier parmi les modèles américains de cette catégorie. Il devance Nemotron 3 Super (12,8) de 8,6 points, avec 39% de paramètres en moins. L'écart avec Ultra est d'environ 1,6 point, alors que Bolt compte sept fois moins de paramètres (74B contre 550B) et six fois moins de paramètres actifs (9B contre 55B). Son contexte est de 256 000 tokens et son entrée est multimodale.

Le profil de résultats est inégal. Bolt dépasse Ultra sur AutomationBench-AA (15,5% contre 3,0%) et AA-Briefcase (912 contre 874 Elo), mais reste derrière sur AA-LCR (70% contre 79%) et Humanity's Last Exam (25% contre 28%). Autrement dit, il se débrouille mieux sur les scénarios agentiques et bureautiques que sur le contexte long et les connaissances complexes.

Le prix de cette compacité, c'est la verbosité. Bolt consomme 82 000 tokens par tâche : 1,8 fois plus que Super VL et 2,9 fois plus qu'Ultra (28 000), tout en restant 28% en dessous de Nemotron 3 Super.

Où ce modèle trouve sa place en pratique

Super VL semble un choix logique pour les longues chaînes agentiques et le travail sur des contextes très volumineux, où la latence et le débit comptent. En NVFP4, le modèle ne perd presque rien en qualité : on peut donc le déployer directement sur du matériel compatible avec ce format, sans se demander ce que la quantification a coûté. Bolt conviendra aux équipes dont le coût d'inférence dépend surtout de la taille du modèle, et dont les tâches se rapprochent davantage de l'automatisation des processus métier que des benchmarks académiques.

Mais au moment de choisir, il vaut mieux comparer non pas le prix par token, mais le prix par tâche accomplie : Bolt consomme plus de tokens, et l'économie réalisée sur les paramètres peut en partie s'évaporer dans des réponses longues. Avant de migrer, mieux vaut tester ses propres charges de travail et refaire les mesures de vitesse chez le fournisseur utilisé en production.