En vivo 18.11 · Cohorte 318 nov, 19:00 MSK — taller práctico gratuito de agentes IA · Cohorte 3 en vivo inicia 23.11Taller 18 nov →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

Qwen en dos DGX Spark gana un 34–59% en tokens por segundo y supera a GLM

Un desarrollador se quedó sin acceso a Claude Code y prueba modelos locales en dos minicomputadoras DGX Spark. Qwen 3.8 Flash Next genera 97–117 tokens por segundo, entre un 34% y un 59% más que en un solo Spark. Además, en un contexto de 128K el primer token tarda 39 segundos en llegar, frente a los 57 anteriores. GLM 5.3 Flash escribe mejor, pero entra en bucles. Para programar, el autor eligió Qwen.

Procesado por IA desde Habr AI; editado por Hamidun News
Qwen en dos DGX Spark gana un 34–59% en tokens por segundo y supera a GLM
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1El prefill (análisis del prompt) subió entre un 47% y un 62%, hasta 3,1–3,8 mil tokens por segundo
Dato clave #2Con un contexto de 256K, el primer token de Qwen llega a los 86 s; el de GLM, a los 154 s
GLMel 90% de la salida de Bash son comentarios, y en un bucle creó 119 archivos

¿Qué hacer si el asistente de programación en la nube desaparece y hay que seguir trabajando? El autor de una serie de notas en Habr perdió su cuenta de Claude Code y lleva ya una segunda semana comprobando si puede sustituirlo con modelos locales de pesos abiertos. Para ello instaló dos modelos, GLM 5.

3 Flash y Qwen 3.8 Flash Next, en dos minicomputadoras NVIDIA DGX Spark conectadas en clúster. Midió la velocidad con tres cifras.

TPS indica cuántos tokens (fragmentos de texto) genera el modelo por segundo. Prefill mide la rapidez con la que «lee» el prompt que recibe, por ejemplo un repositorio entero. TTFT es el número de segundos que pasan hasta que aparece el primer token de la respuesta.

Imagine que le pide al agente que encuentre un bug en un proyecto grande: cuanto mayor sea el prefill y menor el TTFT, menos esperará hasta que empiece a trabajar. Si está eligiendo un modelo para un agente local, conviene fijarse no solo en los tokens por segundo, sino también en estos indicadores y en cómo se comporta el modelo en sesiones largas. Resultado del experimento: Qwen se convirtió en la herramienta principal y GLM quedó como recurso de apoyo.

Cómo se midió y qué resultados salieron

Ambos modelos trabajaron con el mismo hardware: dos DGX Spark, el motor TensorFold y un contexto de hasta 1 millón de tokens. La cuantización, es decir, el grado de compresión de los pesos, es distinta: GLM usa 4 bits por peso (formato EXL3) y Qwen, INT4-AR. Para cada tamaño de contexto, de 2K a 256K tokens, el autor hizo 10 mediciones. Los prompts eran únicos, con un añadido aleatorio, de modo que la caché de prefijos no ayudó: se trata de un análisis de texto «en frío» y desde cero. Antes de cada serie se hizo una consulta de calentamiento.

Qwen 3.8 Flash Next en dos Spark genera 97–117 tokens por segundo, y su prefill es de 3,1–3,8 mil tokens por segundo. Con un contexto de 128K, el primer token tarda 39 segundos; con 256K, 86 segundos. GLM, en esos mismos dos Spark, genera 65–72 tokens por segundo, su prefill es de 1,5–1,8 mil tokens por segundo y, con 256K, el primer token tarda 154 segundos. Si se calcula por cada Spark, GLM logra 33–36 tokens por segundo, el peor resultado de las cuatro configuraciones del autor.

Comparado con un solo Spark, según el artículo anterior, la generación es un 34–59% más rápida, el prefill un 47–62% más rápido, y el TTFT con 128K bajó de 57 a 39 segundos (−32%). La velocidad no se duplica: la segunda máquina aporta aproximadamente una vez y media, no el doble. El prefill escala mejor que la generación, así que el clúster resulta especialmente útil cuando el agente relee con frecuencia bases de código grandes. En el artículo anterior, DeepSeek en dos Spark generaba 99–109 tokens por segundo, es decir, Qwen está a su nivel o un poco por encima, y claramente por delante en prefill y TTFT.

Hay una salvedad. El Spark individual funcionaba con cuantización de 4 bits NVFP4 y el clúster con INT4-AR, así que la comparación no es del todo exacta y solo da un orden de magnitud. No existe medición de 256K para un solo Spark.

Qué falla en GLM 5.3 Flash

La paradoja es que las respuestas de GLM resultan más agradables de leer. Según el autor, Qwen y DeepSeek a veces confunden las terminaciones de las palabras e inventan otras nuevas, como «echoшить», o intercalan caracteres chinos. GLM escribe con fluidez y pulcritud, mueve con precisión los puntos de la lista TODO en los niveles high y max, y sigue con exactitud las skills y las plantillas.

Para el trabajo agéntico, en cambio, mostró hábitos problemáticos:

  • El 90% de la salida de Bash son comentarios del propio modelo. El contexto crece rápido y los bloques «Thinking» que había al inicio de la sesión desaparecen: el razonamiento pasa al interior de los comandos.
  • Bucles. En la primera tarea, el agente creó 119 archivos del tipo /tmp/probe119.php. El autor lo notó solo porque su plugin muestra las llamadas a herramientas. Sin supervisión, el disco podría haberse llenado antes de la mañana.
  • Confusión sobre sus propias acciones cuando el contexto supera los 130–150 mil tokens. El modelo «investiga» quién cambió de rama y luego descubre que lo hizo su propio script calibrate.sh.

Tras esto, el autor añadió una regla a AGENTS.md: si tres intentos distintos dan el mismo resultado, hay que detenerse y revisar la hipótesis, sin lanzar un cuarto. Conclusión práctica: un agente autónomo necesita un límite para las acciones repetitivas; de lo contrario se pierden tanto tokens como espacio en disco.

Herramientas alrededor del modelo

El autor trabaja con una capa de integración minimalista, Pi, en WSL, y ha escrito para ella un plugin para PhpStorm y otros IDE de JetBrains. En una semana añadió tres cosas. La primera, notificaciones en Telegram cuando el agente termina un turno, pide permiso o hace una pregunta. La segunda, sesiones remotas: se puede controlar el agente desde el navegador del teléfono. La tercera, la herramienta ask_question, equivalente a AskUserQuestion de Claude Code, que permite añadir una nota a una opción de respuesta o pedir que se explique la pregunta. Las nuevas funciones las escribieron DeepSeek y Qwen: pocas veces salían a la primera, pero a la segunda o tercera intentona todo funcionaba.

Efecto práctico: el agente ejecuta un benchmark por la noche sin problemas y, si a las cinco de la mañana hace una pregunta, se puede responder desde el teléfono. Sin los límites de una suscripción, el agente local trabaja las 24 horas, y el autor admite que su dependencia de los agentes no ha hecho sino aumentar.

Conviene recordar que se trata de la experiencia de un solo desarrollador en proyectos personales, no de un benchmark independiente. Ha trabajado poco con Qwen y no hay cifras sobre la calidad del código. Como siguiente paso, el autor promete un experimento con el nivel de reasoning effort para programación.

Historia

Preguntas frecuentes sobre la noticia

Cómo se midió y qué resultados salieron?

Ambos modelos trabajaron con el mismo hardware: dos DGX Spark, el motor TensorFold y un contexto de hasta 1 millón de tokens. La cuantización, es decir, el grado de compresión de los pesos, es distinta: GLM usa 4 bits por peso (formato EXL3) y Qwen, INT4-AR. Para cada tamaño de contexto, de 2K a 256K tokens, el autor hizo 10 mediciones. Los prompts eran únicos, con un añadido aleatorio, de modo que la caché de prefijos no ayudó: se trata de un análisis de texto «en frío» y desde cero.

¿Qué se sabe sobre Qué falla en GLM 5.3 Flash?

La paradoja es que las respuestas de GLM resultan más agradables de leer. Según el autor, Qwen y DeepSeek a veces confunden las terminaciones de las palabras e inventan otras nuevas, como «echoшить», o intercalan caracteres chinos. GLM escribe con fluidez y pulcritud, mueve con precisión los puntos de la lista TODO en los niveles high y max, y sigue con exactitud las skills y las plantillas.

¿Qué se sabe sobre Herramientas alrededor del modelo?

El autor trabaja con una capa de integración minimalista, Pi, en WSL, y ha escrito para ella un plugin para PhpStorm y otros IDE de JetBrains. En una semana añadió tres cosas. La primera, notificaciones en Telegram cuando el agente termina un turno, pide permiso o hace una pregunta. La segunda, sesiones remotas: se puede controlar el agente desde el navegador del teléfono.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
¿Qué te parece?
Cargando comentarios…