DGX Spark com Qwen3: um teste da NVIDIA que não contou tudo

DGX Spark com Qwen3: um teste da NVIDIA que não contou tudo

À medida que os grandes modelos de linguagem (LLMs) ficam mais potentes e exigentes, a falta de memória para executá-los se torna especialmente aguda. Muitos entusiastas e até profissionais esbarram numa situação em que um modelo com dezenas de bilhões de parâmetros simplesmente não cabe na memória de vídeo (VRAM) limitada das GPUs atuais. Nesses casos, é preciso fazer concessões: ou descarregar parte do modelo para o processador central (CPU), o que derruba a velocidade de forma catastrófica, ou recorrer a soluções caras na nuvem, que ainda podem gerar preocupações com a confidencialidade dos dados.

Para resolver esse problema urgente, a NVIDIA apresentou o sistema DGX Spark (também conhecido como GB10), equipado com 128 GB de memória unificada. O preço declarado é de 400 mil a 500 mil rublos. No entanto, duas semanas de testes aprofundados mostraram que os resultados do sistema com o modelo Qwen3 foram mistos, o que leva a questionar o valor real da solução.

O contexto do problema que o DGX Spark pretende resolver é conhecido por todo mundo que trabalha com LLMs. Um caso típico: tentar rodar um modelo de 32 bilhões de parâmetros numa placa de vídeo da classe da RTX 4090, com seus 24 GB de VRAM. A falta de memória é inevitável.

O offload para a CPU até permite rodar o modelo, mas leva a uma queda de desempenho inaceitável. Já os serviços em nuvem não só exigem um investimento financeiro significativo, como também colocam em dúvida a segurança e a privacidade dos dados processados, que são enviados a servidores de terceiros. Nesse contexto, a proposta da NVIDIA, o DGX Spark com seus 128 GB de memória unificada, parece promissora.

Ao contrário da memória separada tradicional de CPU e GPU, a memória unificada permite que os dois processadores trabalhem com os mesmos dados sem copiá-los, o que em teoria deveria acelerar o processamento.

O mergulho nos testes do DGX Spark com o Qwen3 revelou várias nuances. Foram feitos benchmarks extensos, que compararam diferentes formatos de quantização (método que reduz o tamanho do modelo e as exigências de memória ao custo de alguma perda de precisão), testaram diferentes tamanhos de contexto (a quantidade de informação que o modelo processa de uma vez) e confrontaram o desempenho com soluções de GPU mais familiares. Os resultados ficaram longe de ser conclusivos.

Em alguns cenários, o DGX Spark de fato mostrou vantagens, principalmente quando era preciso lidar com volumes de dados que não cabiam na VRAM de placas de vídeo comuns. Em outros casos, sobretudo sob carga intensa ou com certos tipos de modelo, o sistema não entregou o ganho de velocidade esperado. Além disso, às vezes o desempenho do DGX Spark ficou abaixo de soluções bem otimizadas com várias GPUs potentes, ou exigiu recorrer a recursos caros na nuvem, o que anula a principal vantagem do dispositivo: o processamento local dos dados.

Vale notar que, em alguns testes, quando o modelo não cabia por completo na memória unificada, o sistema passava automaticamente a usar a CPU, com uma lentidão significativa, comparável à do offload comum.

Esses resultados mistos pedem uma análise cuidadosa. A eficiência financeira do DGX Spark, com preço de meio milhão de rublos, levanta dúvidas, ainda mais porque em vários cenários ele não oferece superioridade perceptível sobre soluções mais acessíveis ou tradicionais. As limitações de arquitetura do sistema, que aparecem em certos tipos de carga, fazem dele um produto de nicho, e não uma solução universal.

É provável que os materiais de marketing da NVIDIA destaquem os números máximos de desempenho e os cenários em que 128 GB de memória são realmente o fator decisivo, omitindo as situações em que essa arquitetura pode se mostrar ineficiente ou até desvantajosa. Isso significa que potenciais compradores precisam avaliar bem suas tarefas e compará-las com as capacidades reais do DGX Spark, em vez de confiar apenas nas promessas publicitárias.

Em conclusão, o DGX Spark com 128 GB de memória unificada é um passo interessante, mas imperfeito, no hardware para trabalhar com grandes modelos de linguagem. Ele pode compensar num círculo restrito de tarefas em que o volume de memória é crítico e outras soluções simplesmente não dão conta. Para a maioria dos usuários, porém, 128 GB de memória unificada não são uma «bala de prata» que resolve todos os problemas.

É preciso admitir que, para obter o máximo desempenho e viabilidade econômica, soluções otimizadas com várias GPUs ou até abordagens híbridas muitas vezes continuam preferíveis. Testar com rigor e entender as particularidades da arquitetura do DGX Spark é a chave para determinar se o dispositivo realmente vale o seu preço elevado para as suas necessidades específicas.