DGX Spark con Qwen3: una prueba de NVIDIA que no lo cuenta todo

DGX Spark con Qwen3: una prueba de NVIDIA que no lo cuenta todo

A medida que los grandes modelos de lenguaje (LLM) se vuelven más potentes y exigentes, la falta de memoria para ejecutarlos se hace especialmente aguda. Muchos aficionados e incluso profesionales se encuentran con que un modelo de decenas de miles de millones de parámetros simplemente no cabe en la limitada memoria de vídeo (VRAM) de las GPU actuales. En esos casos hay que transigir: o se descarga parte del modelo a la CPU, lo que reduce la velocidad de forma catastrófica, o se recurre a costosas soluciones en la nube, que además pueden despertar recelos sobre la confidencialidad de los datos.

Para resolver este problema acuciante, NVIDIA presentó el sistema DGX Spark (también conocido como GB10), equipado con 128 GB de memoria unificada. Su precio declarado es de 400 000 a 500 000 rublos. Sin embargo, tras dos semanas de pruebas a fondo, los resultados del sistema con el modelo Qwen3 fueron desiguales y invitan a cuestionar el valor real de esta solución.

Quien trabaja con LLM conoce bien el problema que DGX Spark pretende resolver. Un caso típico: intentar ejecutar un modelo de 32 000 millones de parámetros en una tarjeta gráfica de la gama de la RTX 4090, con sus 24 GB de VRAM. El déficit de memoria es inevitable.

Descargar a la CPU permite ejecutar el modelo, pero hunde el rendimiento hasta niveles inaceptables. Los servicios en la nube, por su parte, no solo exigen una inversión considerable, sino que ponen en entredicho la seguridad y la privacidad de los datos procesados, ya que se envían a servidores de terceros. En este contexto, la propuesta de NVIDIA, DGX Spark con sus 128 GB de memoria unificada, parece prometedora.

A diferencia de la memoria separada tradicional de CPU y GPU, la memoria unificada permite que ambos procesadores trabajen con los mismos datos sin copiarlos, lo que en teoría debería acelerar el procesamiento.

La inmersión en las pruebas de DGX Spark con Qwen3 reveló varios matices. Se hicieron benchmarks exhaustivos que compararon distintos formatos de cuantización (un método que reduce el tamaño del modelo y sus requisitos de memoria a costa de cierta pérdida de precisión), probaron diferentes tamaños de contexto (la cantidad de información que el modelo procesa a la vez) y contrastaron el rendimiento con soluciones de GPU más habituales. Los resultados distaron de ser concluyentes.

En algunos escenarios, DGX Spark sí mostró ventajas, sobre todo cuando había que manejar volúmenes de datos que no cabían en la VRAM de las tarjetas gráficas estándar. En otros casos, especialmente con cargas intensas o con ciertos tipos de modelos, el sistema no ofreció el aumento de velocidad esperado. Es más, a veces el rendimiento de DGX Spark quedó por debajo de soluciones bien optimizadas con varias GPU potentes, o exigió recurrir a costosos recursos en la nube, lo que anula la principal ventaja del dispositivo: el procesamiento local de los datos.

Cabe señalar que en algunas pruebas, cuando el modelo no cabía por completo en la memoria unificada, el sistema pasaba automáticamente a usar la CPU, con una ralentización notable, comparable a la de una descarga convencional.

Unos resultados tan desiguales exigen un análisis cuidadoso. La rentabilidad de DGX Spark, con un precio de medio millón de rublos, plantea dudas, sobre todo porque en varios escenarios no ofrece una superioridad apreciable frente a soluciones más asequibles o tradicionales. Las limitaciones de arquitectura del sistema, que se manifiestan con ciertos tipos de carga, lo convierten en un producto de nicho más que en una solución universal.

Es probable que los materiales de marketing de NVIDIA destaquen las cifras máximas de rendimiento y los escenarios en los que 128 GB de memoria son realmente decisivos, y callen las situaciones en las que esta arquitectura puede resultar ineficaz o incluso perdedora. Esto significa que los posibles compradores deben sopesar con cuidado sus tareas y contrastarlas con las capacidades reales de DGX Spark, en lugar de fiarse solo de las promesas publicitarias.

En conclusión, DGX Spark con 128 GB de memoria unificada es un paso interesante, pero imperfecto, en el hardware para trabajar con grandes modelos de lenguaje. Puede resultar rentable para un círculo reducido de tareas en las que el volumen de memoria es crítico y otras soluciones simplemente no dan abasto. Sin embargo, para la mayoría de los usuarios, 128 GB de memoria unificada no son una «bala de plata» que resuelva todos los problemas.

Hay que admitir que, para lograr el máximo rendimiento y sentido económico, a menudo siguen siendo preferibles las soluciones optimizadas con varias GPU o incluso los enfoques híbridos. Probar con rigor y entender las particularidades de la arquitectura de DGX Spark es la clave para determinar si este dispositivo vale de verdad su elevado precio para tus necesidades concretas.