DGX Spark et Qwen3 : un test de NVIDIA qui ne dit pas tout

DGX Spark et Qwen3 : un test de NVIDIA qui ne dit pas tout

À mesure que les grands modèles de langage (LLM) gagnent en puissance et en exigences, le manque de mémoire pour les exécuter devient particulièrement aigu. De nombreux passionnés, et même des professionnels, se heurtent au même obstacle : un modèle de plusieurs dizaines de milliards de paramètres ne tient tout simplement pas dans la mémoire vidéo (VRAM) limitée des processeurs graphiques actuels. Il faut alors faire des compromis : soit déporter une partie du modèle sur le processeur central (CPU), ce qui fait chuter la vitesse de façon catastrophique, soit recourir à des solutions cloud coûteuses, qui peuvent en outre susciter des craintes sur la confidentialité des données.

Pour répondre à ce problème pressant, NVIDIA a présenté le système DGX Spark (aussi connu sous le nom de GB10), équipé de 128 Go de mémoire unifiée. Son prix annoncé est de 400 000 à 500 000 roubles. Mais un test approfondi de deux semaines a montré que les résultats du système avec le modèle Qwen3 étaient contrastés, ce qui amène à s'interroger sur la valeur réelle de cette solution.

Le contexte du problème que le DGX Spark est censé résoudre est bien connu de tous ceux qui travaillent avec des LLM. Cas typique : tenter d'exécuter un modèle de 32 milliards de paramètres sur une carte graphique de la classe de la RTX 4090, avec ses 24 Go de VRAM. Le manque de mémoire est inévitable.

Le déport (offload) vers le CPU permet de lancer le modèle, mais entraîne une chute de performances inacceptable. Les services cloud, eux, exigent des dépenses importantes et mettent en doute la sécurité et la confidentialité des données traitées, puisqu'elles sont transmises à des serveurs tiers. Dans ce contexte, l'offre de NVIDIA, le DGX Spark et ses 128 Go de mémoire unifiée, paraît prometteuse.

Contrairement à la mémoire séparée traditionnelle du CPU et du GPU, la mémoire unifiée permet aux deux processeurs de travailler sur les mêmes données sans les copier, ce qui devrait en théorie accélérer le traitement.

La plongée dans les tests du DGX Spark avec Qwen3 a révélé plusieurs nuances. Des benchmarks poussés ont comparé différents formats de quantification (une méthode qui réduit la taille du modèle et ses besoins en mémoire au prix d'une certaine perte de précision), testé différentes tailles de contexte (la quantité d'informations que le modèle traite simultanément) et confronté les performances à des solutions GPU plus classiques. Les résultats sont loin d'être tranchés.

Dans certains scénarios, le DGX Spark a bien montré des avantages, surtout lorsqu'il fallait manipuler des volumes de données qui ne tenaient pas dans la VRAM des cartes graphiques standard. Dans d'autres cas, notamment sous forte charge ou avec certains types de modèles, le système n'a pas offert le gain de vitesse attendu. Plus encore, les performances du DGX Spark sont parfois restées inférieures à celles de solutions bien optimisées reposant sur plusieurs GPU puissants, ou ont nécessité de recourir à des ressources cloud coûteuses, ce qui annule le principal atout de l'appareil : le traitement local des données.

À noter que, dans certains tests, lorsque le modèle ne tenait pas entièrement dans la mémoire unifiée, le système basculait automatiquement sur le CPU, avec un ralentissement important, comparable à celui d'un offload classique.

Des résultats aussi contrastés appellent une analyse attentive. La rentabilité du DGX Spark, à un prix d'un demi-million de roubles, soulève des questions, d'autant que dans plusieurs scénarios il n'offre pas de supériorité tangible face à des solutions plus abordables ou plus traditionnelles. Les limites architecturales du système, qui apparaissent avec certains types de charge, en font un produit de niche plutôt qu'une solution universelle.

Les supports marketing de NVIDIA mettent probablement l'accent sur les performances maximales et sur les scénarios où 128 Go de mémoire sont vraiment décisifs, tout en taisant les situations où cette architecture peut se révéler inefficace, voire perdante. Cela signifie que les acheteurs potentiels doivent soigneusement peser leurs besoins et les confronter aux capacités réelles du DGX Spark, plutôt que de se fier uniquement aux promesses publicitaires.

En conclusion, le DGX Spark avec 128 Go de mémoire unifiée est une avancée intéressante, mais imparfaite, pour le matériel dédié aux grands modèles de langage. Il peut être rentable pour un cercle restreint de tâches où le volume de mémoire est critique et où les autres solutions n'y arrivent tout simplement pas. Pour la plupart des utilisateurs, cependant, 128 Go de mémoire unifiée ne sont pas une « solution miracle » qui règle tous les problèmes.

Il faut reconnaître que, pour atteindre les meilleures performances et un équilibre économique, les solutions optimisées reposant sur plusieurs GPU, voire les approches hybrides, restent souvent préférables. Des tests rigoureux et la compréhension des particularités architecturales du DGX Spark sont la clé pour déterminer si l'appareil vaut vraiment son prix élevé pour vos besoins précis.