Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoCódigo / SDK · Pronto p/ usoHabr AI→ original

Nvidia monta minicluster de quatro DGX Spark com 512 GB para modelos de até 700 bilhões de parâmetros

Rodar modelos grandes na própria mesa esbarra na memória, não na velocidade: os pesos simplesmente não cabem. Na SC26, a Nvidia apresentou o DGX Spark HPC Developer Kit, formado por quatro minicomputadores de 128 GB cada, somando 512 GB de memória. A empresa afirma que isso basta para executar localmente modelos de até 700 bilhões de parâmetros, sem recorrer à nuvem. O preço não foi informado, mas quatro DGX Spark comprados separadamente custam quase 28 mil dólares.

Processado por IA de Habr AI; editado por Hamidun News
Nvidia monta minicluster de quatro DGX Spark com 512 GB para modelos de até 700 bilhões de parâmetros
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Cada nó20 núcleos Arm, GPU Blackwell, até 1 petaflop em FP4
Dado-chave #2Os nós são conectados em anel via ConnectX-7, sem necessidade de switch
Dado-chave #3Total de 16 TB em NVMe; HPC SDK com compiladores C, C++ e Fortran

O principal obstáculo para rodar grandes modelos de linguagem localmente não é a velocidade de processamento, e sim a memória: se os pesos não cabem, o modelo simplesmente não inicia. Na conferência SC26, em Chicago, a Nvidia apresentou o DGX Spark HPC Developer Kit, um cluster de quatro computadores compactos DGX Spark. Cada um tem 128 GB de memória, o que soma 512 GB.

Segundo a empresa, isso é suficiente para executar localmente modelos de até 700 bilhões de parâmetros. A conta mais simples é a seguinte: um modelo de 700 bilhões de parâmetros em formato de 4 bits ocupa cerca de 350 GB (estimativa nossa, não um número da Nvidia). Em uma única máquina com 128 GB ele não cabe; nas quatro unidas, cabe.

Para o desenvolvedor, isso significa poder trabalhar com código ou dados confidenciais na própria infraestrutura, sem alugar GPUs na nuvem.

Que há por dentro

Cada nó é construído em torno do superchip GB10 Grace Blackwell, que combina um processador Arm de 20 núcleos e uma GPU Blackwell. A memória do nó é de 128 GB LPDDR5X, compartilhada entre CPU e GPU, de modo que os dados não precisam ser copiados entre a memória RAM e a memória de vídeo. O desempenho de pico de um nó é de 1 petaflop em operações FP4. Um petaflop equivale a um quatrilhão de operações por segundo, e FP4 é um formato numérico de 4 bits, muito usado para rodar modelos comprimidos. Os quatro nós somam cerca de 4 petaflops pela mesma métrica. O armazenamento NVMe total é de 16 TB.

Os nós são ligados em anel por placas de rede Nvidia ConnectX-7: cada DGX Spark se conecta a dois vizinhos. Por isso, não é preciso um switch de rede separado, o que simplifica a montagem em uma mesa de trabalho ou em um laboratório pequeno. O anúncio não traz detalhes sobre a velocidade de troca de dados entre os nós.

Para quem é e como fica o software

O kit se destina a pesquisadores e desenvolvedores que precisam rodar modelos de AI localmente, depurar aplicações distribuídas e executar cálculos que consomem muitos recursos. Pense em uma equipe que escreve um programa científico para um grande supercomputador. Primeiro, o código pode ser testado nos quatro nós, na própria bancada; depois, é enviado para a fila de um sistema caro.

Para essas tarefas, a Nvidia prepara um guia de implantação do HPC SDK. O pacote inclui compiladores C, C++ e Fortran acelerados por GPU, bibliotecas e ferramentas de troca de mensagens MPI para aplicações científicas.

Preço e pontos de atenção

É possível encomendar o kit desde já, mas a Nvidia não informa o preço em seu site: para saber mais, é preciso enviar uma solicitação. Uma referência vem do varejo: quatro DGX Spark avulsos, com 128 GB de memória e SSD de 4 TB, custam quase 28 mil dólares. Esse valor não inclui a interconexão nem equipamentos adicionais. Quanto custará o conjunto pronto, não se sabe.

A conclusão prática é esta. Se a carga de trabalho é constante e os dados são sensíveis (código interno, documentos médicos ou jurídicos), um cluster local pode ser uma alternativa razoável à nuvem. Se o modelo é necessário apenas de vez em quando, o aluguel provavelmente continuará mais barato, mas, para chegar a uma conclusão precisa, vale calcular a sua carga.

Há ainda uma ressalva. A afirmação sobre os 700 bilhões de parâmetros vem do fabricante, e ainda não existem medições independentes da velocidade de geração com modelos desse porte. A memória LPDDR5X costuma ser mais lenta do que a usada em aceleradores para servidores, então, nos maiores modelos, a velocidade de resposta pode ser modesta. Antes de comprar, faz sentido esperar os primeiros testes independentes e compará-los com os seus requisitos.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Que há por dentro?

Cada nó é construído em torno do superchip GB10 Grace Blackwell, que combina um processador Arm de 20 núcleos e uma GPU Blackwell. A memória do nó é de 128 GB LPDDR5X, compartilhada entre CPU e GPU, de modo que os dados não precisam ser copiados entre a memória RAM e a memória de vídeo. O desempenho de pico de um nó é de 1 petaflop em operações FP4. Um petaflop equivale a um quatrilhão de operações por segundo, e FP4 é um formato numérico de 4 bits, muito usado para rodar modelos comprimidos.

O que se sabe sobre Para quem é e como fica o software?

O kit se destina a pesquisadores e desenvolvedores que precisam rodar modelos de AI localmente, depurar aplicações distribuídas e executar cálculos que consomem muitos recursos. Pense em uma equipe que escreve um programa científico para um grande supercomputador. Primeiro, o código pode ser testado nos quatro nós, na própria bancada; depois, é enviado para a fila de um sistema caro. Para essas tarefas, a Nvidia prepara um guia de implantação do HPC SDK.

O que se sabe sobre Preço e pontos de atenção?

É possível encomendar o kit desde já, mas a Nvidia não informa o preço em seu site: para saber mais, é preciso enviar uma solicitação. Uma referência vem do varejo: quatro DGX Spark avulsos, com 128 GB de memória e SSD de 4 TB, custam quase 28 mil dólares. Esse valor não inclui a interconexão nem equipamentos adicionais. Quanto custará o conjunto pronto, não se sabe. A conclusão prática é esta.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…