Départ 23/11Cohorte 3 en direct Vibe Coding & Agents IA : 3 semaines, 9 sessions liveCohorte 3 (23/11) →
SortieCode / SDK · Prêt à l'emploiHabr AI→ original

Nvidia assemble quatre DGX Spark en un mini-cluster de 512 Go pour des modèles jusqu'à 700 milliards de paramètres

Sur un bureau, les gros modèles butent moins sur la vitesse que sur la mémoire : les poids ne tiennent tout simplement pas. Au SC26, Nvidia a présenté le DGX Spark HPC Developer Kit, composé de quatre mini-ordinateurs de 128 Go chacun, soit 512 Go de mémoire au total. Selon l'entreprise, cela suffit pour exécuter en local, sans cloud, des modèles jusqu'à 700 milliards de paramètres. Le prix n'est pas communiqué, mais quatre DGX Spark achetés séparément coûtent près de 28 000 dollars.

Traité par IA depuis Habr AI ; édité par Hamidun News
Nvidia assemble quatre DGX Spark en un mini-cluster de 512 Go pour des modèles jusqu'à 700 milliards de paramètres
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Nœud20 cœurs Arm, GPU Blackwell, jusqu'à 1 pétaflop en FP4
Chiffre clé #2Les nœuds sont reliés en anneau via ConnectX-7, sans commutateur
Chiffre clé #316 To de NVMe au total ; HPC SDK avec compilateurs C, C++ et Fortran

Le principal obstacle à l'exécution locale de grands modèles de langage n'est pas la vitesse de calcul, mais la mémoire : si les poids ne tiennent pas, le modèle ne démarre tout simplement pas. À la conférence SC26 de Chicago, Nvidia a présenté le DGX Spark HPC Developer Kit, un cluster de quatre ordinateurs compacts DGX Spark. Chacun dispose de 128 Go de mémoire, soit 512 Go au total.

Selon l'entreprise, cela suffit pour exécuter en local des modèles pouvant atteindre 700 milliards de paramètres. Le calcul le plus simple : un modèle de 700 milliards de paramètres en 4 bits occupe environ 350 Go (il s'agit de notre estimation, pas d'un chiffre de Nvidia). Il ne tient pas sur une seule machine de 128 Go, mais tient sur quatre machines regroupées.

Pour un développeur, cela signifie qu'il peut travailler chez lui sur du code ou des données confidentiels, sans louer de GPU dans le cloud.

Que contient le kit ?

Chaque nœud repose sur la puce GB10 Grace Blackwell : un processeur Arm à 20 cœurs et un accélérateur graphique Blackwell. La mémoire du nœud est de 128 Go de LPDDR5X, partagée entre le CPU et le GPU : les données n'ont donc pas besoin d'être copiées entre mémoire vive et mémoire vidéo. La performance de crête d'un nœud atteint 1 pétaflop en opérations FP4. Un pétaflop correspond à un million de milliards d'opérations par seconde, et le FP4 est un format de nombres sur 4 bits, souvent utilisé pour exécuter des modèles compressés. Les quatre nœuds totalisent environ 4 pétaflops selon la même métrique. Le stockage NVMe totalise 16 To.

Les nœuds sont reliés en anneau par des cartes réseau Nvidia ConnectX-7 : chaque DGX Spark est connecté à deux voisins. Aucun commutateur réseau dédié n'est donc nécessaire, ce qui simplifie l'installation sur un bureau ou dans un petit laboratoire. L'annonce ne donne aucun détail sur la vitesse des échanges entre les nœuds.

Pour qui, et côté logiciel

Le kit s'adresse aux chercheurs et aux développeurs qui doivent exécuter des modèles d'IA en local, déboguer des applications distribuées et lancer des calculs gourmands en ressources. Prenons une équipe qui écrit un programme scientifique destiné à un grand supercalculateur. Elle peut d'abord tester son code sur les quatre nœuds, chez elle, puis le soumettre à la file d'attente du système coûteux.

Pour ces usages, Nvidia prépare un guide de déploiement du HPC SDK. Ce kit comprend des compilateurs C, C++ et Fortran accélérés par GPU, des bibliothèques et des outils d'échange de messages MPI pour les applications scientifiques.

Prix et points de vigilance

Le kit peut déjà être commandé, mais Nvidia n'affiche pas son prix sur son site : il faut déposer une demande pour obtenir des détails. Le marché donne un ordre de grandeur : quatre DGX Spark distincts, avec 128 Go de mémoire et un SSD de 4 To, coûtent près de 28 000 dollars. Cela n'inclut ni la connectique ni le matériel supplémentaire. Le prix du kit prêt à l'emploi est inconnu.

La conclusion pratique est la suivante. Si la charge est permanente et les données sensibles (code interne, documents médicaux ou juridiques), un cluster local peut être une alternative raisonnable au cloud. Si le modèle n'est utilisé que de façon occasionnelle, la location restera probablement moins chère, mais il faut calculer votre charge pour trancher avec précision.

Une réserve s'impose. L'annonce des 700 milliards de paramètres vient du constructeur, et il n'existe pour l'instant aucune mesure indépendante de la vitesse de génération sur de tels modèles. La mémoire LPDDR5X est généralement plus lente que celle des accélérateurs de serveur : sur les plus gros modèles, la vitesse de réponse peut donc se révéler modeste. Avant d'acheter, mieux vaut attendre les premiers tests indépendants et les comparer à vos exigences.

Dossier

Questions clés sur cet article

Que contient le kit ?

Chaque nœud repose sur la puce GB10 Grace Blackwell : un processeur Arm à 20 cœurs et un accélérateur graphique Blackwell. La mémoire du nœud est de 128 Go de LPDDR5X, partagée entre le CPU et le GPU : les données n'ont donc pas besoin d'être copiées entre mémoire vive et mémoire vidéo. La performance de crête d'un nœud atteint 1 pétaflop en opérations FP4.

Que sait-on sur Pour qui, et côté logiciel ?

Le kit s'adresse aux chercheurs et aux développeurs qui doivent exécuter des modèles d'IA en local, déboguer des applications distribuées et lancer des calculs gourmands en ressources. Prenons une équipe qui écrit un programme scientifique destiné à un grand supercalculateur. Elle peut d'abord tester son code sur les quatre nœuds, chez elle, puis le soumettre à la file d'attente du système coûteux. Pour ces usages, Nvidia prépare un guide de déploiement du HPC SDK.

Que sait-on sur Prix et points de vigilance ?

Le kit peut déjà être commandé, mais Nvidia n'affiche pas son prix sur son site : il faut déposer une demande pour obtenir des détails. Le marché donne un ordre de grandeur : quatre DGX Spark distincts, avec 128 Go de mémoire et un SSD de 4 To, coûtent près de 28 000 dollars. Cela n'inclut ni la connectique ni le matériel supplémentaire. Le prix du kit prêt à l'emploi est inconnu. La conclusion pratique est la suivante.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…