Inicia 23 novCohorte 3 en vivo de Vibe Coding y Agentes IA: 3 semanas, 9 clases en directoCohorte 3 (23.11) →
LanzamientoCódigo / SDK · Listo para usarHabr AI→ original

Nvidia monta un minicl��ster de 512 GB con cuatro DGX Spark para modelos de hasta 700 mil millones de parámetros

Al ejecutar modelos grandes en el escritorio, el cuello de botella no es la velocidad, sino la memoria: los pesos simplemente no caben. En SC26, Nvidia presentó el DGX Spark HPC Developer Kit, formado por cuatro minicomputadoras de 128 GB cada una, con 512 GB de memoria en conjunto. La compañía afirma que es suficiente para ejecutar en local modelos de hasta 700 mil millones de parámetros, sin recurrir a la nube. No ha revelado el precio, pero cuatro DGX Spark por separado cuestan casi 28 mil dólares.

Procesado por IA desde Habr AI; editado por Hamidun News
Nvidia monta un minicl��ster de 512 GB con cuatro DGX Spark para modelos de hasta 700 mil millones de parámetros
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Nodo20 núcleos Arm, GPU Blackwell, hasta 1 petaflop en FP4
Dato clave #2Los nodos se conectan en anillo mediante ConnectX-7; no hace falta switch
Dato clave #316 TB de NVMe en total; HPC SDK con compiladores de C, C++ y Fortran

El principal problema de ejecutar grandes modelos de lenguaje en local no es la velocidad de cálculo, sino la memoria: si los pesos no caben, el modelo simplemente no arranca. En la conferencia SC26, celebrada en Chicago, Nvidia presentó el DGX Spark HPC Developer Kit, un clúster de cuatro compactos DGX Spark. Cada uno tiene 128 GB de memoria, lo que suma 512 GB.

Según la compañía, es suficiente para ejecutar en local modelos de hasta 700 mil millones de parámetros. Un cálculo sencillo lo ilustra: un modelo de 700 mil millones de parámetros en formato de 4 bits ocupa en torno a 350 GB (es una estimación nuestra, no una cifra de Nvidia). En una sola máquina de 128 GB no cabe, pero en cuatro unidas sí.

Para un desarrollador, esto significa que puede trabajar con código o datos confidenciales en sus propias instalaciones, sin alquilar GPU en la nube.

Qué hay dentro

Cada nodo se basa en el superchip GB10 Grace Blackwell: un procesador Arm de 20 núcleos y un acelerador gráfico Blackwell. La memoria del nodo es de 128 GB LPDDR5X, compartida entre CPU y GPU, así que no hace falta copiar datos entre la memoria RAM y la de vídeo. El rendimiento máximo de un nodo es de 1 petaflop en operaciones FP4. Un petaflop equivale a un cuatrillón de operaciones por segundo, y FP4 es un formato numérico de 4 bits con el que a menudo se ejecutan modelos comprimidos. Los cuatro nodos suman en torno a 4 petaflops según la misma métrica. El almacenamiento NVMe total es de 16 TB.

Los nodos se conectan en anillo mediante tarjetas de red Nvidia ConnectX-7: cada DGX Spark se enlaza con dos vecinos. Por eso no se necesita un switch de red independiente, lo que simplifica el montaje en un escritorio o en un laboratorio pequeño. El anuncio no ofrece detalles sobre la velocidad de intercambio entre nodos.

Para quién es y qué hay en el software

El kit está pensado para investigadores y desarrolladores que necesitan ejecutar modelos de AI en local, depurar aplicaciones distribuidas y realizar cálculos que consumen muchos recursos. Imagine un equipo que escribe un programa científico para un gran superordenador. Primero puede probar el código en cuatro nodos propios y después enviarlo a la cola de un sistema caro.

Para estas tareas, Nvidia prepara una guía de despliegue del HPC SDK. El paquete incluye compiladores de C, C++ y Fortran con aceleración por GPU, bibliotecas y herramientas de paso de mensajes MPI para aplicaciones científicas.

Precio y qué tener en cuenta

El kit ya se puede reservar, pero Nvidia no indica el precio en su web: para conocer los detalles hay que dejar una solicitud. Una referencia la dan los precios de venta al público: cuatro DGX Spark sueltos, con 128 GB de memoria y SSD de 4 TB, cuestan casi 28 mil dólares. Esa cifra no incluye conmutación ni equipamiento adicional. Cuánto costará el conjunto ya montado, se desconoce.

La conclusión práctica es esta. Si la carga es constante y los datos son sensibles (código interno, documentos médicos o jurídicos), un clúster local puede ser una alternativa razonable a la nube. Si el modelo se necesita solo de forma esporádica, lo más probable es que el alquiler siga saliendo más barato, aunque para una conclusión precisa conviene calcular su carga de trabajo.

Hay además una salvedad. La cifra de 700 mil millones de parámetros es una declaración del fabricante, y por ahora no existen mediciones independientes de la velocidad de generación con modelos de ese tamaño. La memoria LPDDR5X suele ser más lenta que la de los aceleradores de servidor, por lo que con los modelos más grandes la velocidad de respuesta puede ser modesta. Antes de comprar, tiene sentido esperar a las primeras pruebas independientes y compararlas con sus requisitos.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué hay dentro?

Cada nodo se basa en el superchip GB10 Grace Blackwell: un procesador Arm de 20 núcleos y un acelerador gráfico Blackwell. La memoria del nodo es de 128 GB LPDDR5X, compartida entre CPU y GPU, así que no hace falta copiar datos entre la memoria RAM y la de vídeo. El rendimiento máximo de un nodo es de 1 petaflop en operaciones FP4. Un petaflop equivale a un cuatrillón de operaciones por segundo, y FP4 es un formato numérico de 4 bits con el que a menudo se ejecutan modelos comprimidos.

¿Qué se sabe sobre Para quién es y qué hay en el software?

El kit está pensado para investigadores y desarrolladores que necesitan ejecutar modelos de AI en local, depurar aplicaciones distribuidas y realizar cálculos que consumen muchos recursos. Imagine un equipo que escribe un programa científico para un gran superordenador. Primero puede probar el código en cuatro nodos propios y después enviarlo a la cola de un sistema caro. Para estas tareas, Nvidia prepara una guía de despliegue del HPC SDK.

¿Qué se sabe sobre Precio y qué tener en cuenta?

El kit ya se puede reservar, pero Nvidia no indica el precio en su web: para conocer los detalles hay que dejar una solicitud. Una referencia la dan los precios de venta al público: cuatro DGX Spark sueltos, con 128 GB de memoria y SSD de 4 TB, cuestan casi 28 mil dólares. Esa cifra no incluye conmutación ni equipamiento adicional. Cuánto costará el conjunto ya montado, se desconoce. La conclusión práctica es esta.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…