NVIDIA RTX Spark N1X roda agente local com Qwen3.8 27B em 18,7 minutos

Um notebook com NVIDIA RTX Spark N1X passou pelo primeiro teste AA-AgentPerf-Local, da Artificial Analysis. O protótipo do Surface Laptop Ultra de 15 polegadas, com 128 GB de memória unificada e preço de $5 899,99, executou a carga agêntica local com o Qwen3.8 27B em 18,7 minutos. Isso é 2,0 vezes mais rápido que o MacBook Pro com M5 Pro (37,6 minutos) e 1,8 vez mais rápido que o AMD Ryzen AI Halo (34,5). Em relação ao DGX Spark (17,3 minutos), o notebook fica apenas 8% atrás, embora o chip rode em Windows on Arm e opere dentro de 45–80 W.

O que exatamente foi medido

O AA-AgentPerf-Local é uma ferramenta aberta que reproduz sessões gravadas de agentes em um servidor local de modelo. Cada requisição carrega todo o histórico da conversa, e o modelo gera exatamente a quantidade de tokens registrada no original. A carga de trabalho é idêntica em todos os sistemas. O tempo de execução das ferramentas não entra na medição: conta apenas a resposta do hardware a cada turno.

A carga padrão é esta:

• 8 tarefas: cinco do PinchBench e três do SWE-bench;
• 168 turnos do modelo e 172 chamadas de ferramentas;
• contexto de até 56K tokens no ponto mais longo;
• 2,6 milhões de tokens de prompt, dos quais apenas 196K são novos e o restante é repetição;
• 31K tokens de saída, iguais em todos os sistemas.

Como há muita repetição, o cache é decisivo. O servidor com cache só precisa ler o prompt inicial e o acréscimo de cada turno: a mediana é de cerca de 450 tokens, e o máximo é de 6,4K, após uma saída grande de ferramenta.

Resultados por modelo

O N1X é, na prática, o mesmo GB10 que equipa o DGX Spark: 20 núcleos Arm (10 Cortex-X925 e 10 Cortex-A725), GPU Blackwell com 6 144 núcleos CUDA e até 128 GB de LPDDR5X. No notebook, a memória é mais rápida (9400 contra 8533 MT/s), com largura de banda de 300 GB/s contra 273. Em compensação, o limite térmico é menor: 45–80 W contra 140 W do GB10. Isso bastou para chegar quase ao nível da caixa de mesa.

• Qwen3.8 27B (densa, 27B ativos): notebook 18,7 min, DGX Spark 17,3, Ryzen AI Halo 34,5, MacBook Pro 37,6, RTX 5090 4,9.
• Qwen3.6 35B A3B (3B ativos): 7,6 min contra 7,3 do DGX Spark, 11,7 do Ryzen AI Halo e 11,9 do MacBook Pro. A RTX 5090 conclui em 2,0 minutos.
• Ling 3.0 Flash (124B, 5,1B ativos): 15,3 min contra 14,9 do DGX Spark e 25,1 do Ryzen AI Halo.

A última linha mostra a principal vantagem dos 128 GB. Os pesos do Ling 3.0 Flash ocupam 77 GB e não cabem nem nos 64 GB do MacBook Pro nem nos 32 GB de memória de vídeo da RTX 5090. Onde o modelo cabe em 32 GB, a 5090 de desktop é a mais rápida de todas: no Qwen3.8 27B, ela supera o notebook em cerca de 3,8 vezes.

Receitas, preços e ressalvas

Cada sistema foi executado com a sua própria receita. O notebook e o DGX Spark usam llama.cpp com pesos UD-Q4_K_M e decodificação especulativa DFlash com 7 tokens de rascunho.

O MacBook Pro, o Ryzen AI Halo e a RTX 5090 usam MTP (4 tokens no Mac, 2 nos demais). Os sistemas operacionais também diferem: Windows 11 on Arm no N1X, Linux no DGX Spark e no AMD, macOS no Mac. A comparação mostra combinações prontas de hardware e software, não o hardware isolado.

A própria Artificial Analysis avisa que está testando outros formatos de pesos (incluindo IQ4_XS) e o motor Metal Splash para Apple Silicon com DFlash. Medições preliminares em alguns sistemas deram resultados mais rápidos, então o panorama pode mudar.

Os preços usados no teste são aproximados: MacBook Pro por volta de $3 700, Ryzen AI Halo por $4 000, DGX Spark por cerca de $6 000 e RTX 5090 em um PC montado por cerca de $9 500 (placa de $7 000 mais $2 500 para o restante do computador). O notebook de $5 900 custa mais que o Mac e o AMD, mas menos que o DGX Spark.

Para quem faz sentido

Se o agente precisa rodar localmente e em deslocamento, o notebook com N1X é a única opção com 128 GB de memória e bateria. Ele comporta modelos MoE da classe de 124B, que um Mac de 64 GB simplesmente não consegue carregar, e entrega a velocidade do DGX Spark. Se a máquina fica na mesa e os modelos cabem em 32 GB, vale olhar para a RTX 5090: ela é várias vezes mais rápida, embora seja a mais cara de todas.

Para modelos de até 64 GB e um orçamento de cerca de $3 700, resta o MacBook Pro, mas o tempo de execução das tarefas agênticas nele é o dobro. Antes de comprar, convém recalcular os preços para a sua região: no leaderboard do benchmark é possível inserir valores próprios. Tenha em mente que o teste foi feito em um protótipo, em modo de alto desempenho e ligado à tomada, e os resultados na bateria podem ser diferentes.