Qwen en dos DGX Spark gana un 34–59% en tokens por segundo y supera a GLM
Un desarrollador se quedó sin acceso a Claude Code y prueba modelos locales en dos minicomputadoras DGX Spark. Qwen 3.8 Flash Next genera 97–117 tokens por segundo, entre un 34% y un 59% más que en un solo Spark. Además, en un contexto de 128K el primer token tarda 39 segundos en llegar, frente a los 57 anteriores. GLM 5.3 Flash escribe mejor, pero entra en bucles. Para programar, el autor eligió Qwen.
Procesado por IA desde Habr AI; editado por Hamidun News
¿Qué hacer si el asistente de programación en la nube desaparece y hay que seguir trabajando? El autor de una serie de notas en Habr perdió su cuenta de Claude Code y lleva ya una segunda semana comprobando si puede sustituirlo con modelos locales de pesos abiertos. Para ello instaló dos modelos, GLM 5.
3 Flash y Qwen 3.8 Flash Next, en dos minicomputadoras NVIDIA DGX Spark conectadas en clúster. Midió la velocidad con tres cifras.
TPS indica cuántos tokens (fragmentos de texto) genera el modelo por segundo. Prefill mide la rapidez con la que «lee» el prompt que recibe, por ejemplo un repositorio entero. TTFT es el número de segundos que pasan hasta que aparece el primer token de la respuesta.
Imagine que le pide al agente que encuentre un bug en un proyecto grande: cuanto mayor sea el prefill y menor el TTFT, menos esperará hasta que empiece a trabajar. Si está eligiendo un modelo para un agente local, conviene fijarse no solo en los tokens por segundo, sino también en estos indicadores y en cómo se comporta el modelo en sesiones largas. Resultado del experimento: Qwen se convirtió en la herramienta principal y GLM quedó como recurso de apoyo.
Cómo se midió y qué resultados salieron
Ambos modelos trabajaron con el mismo hardware: dos DGX Spark, el motor TensorFold y un contexto de hasta 1 millón de tokens. La cuantización, es decir, el grado de compresión de los pesos, es distinta: GLM usa 4 bits por peso (formato EXL3) y Qwen, INT4-AR. Para cada tamaño de contexto, de 2K a 256K tokens, el autor hizo 10 mediciones. Los prompts eran únicos, con un añadido aleatorio, de modo que la caché de prefijos no ayudó: se trata de un análisis de texto «en frío» y desde cero. Antes de cada serie se hizo una consulta de calentamiento.
Qwen 3.8 Flash Next en dos Spark genera 97–117 tokens por segundo, y su prefill es de 3,1–3,8 mil tokens por segundo. Con un contexto de 128K, el primer token tarda 39 segundos; con 256K, 86 segundos. GLM, en esos mismos dos Spark, genera 65–72 tokens por segundo, su prefill es de 1,5–1,8 mil tokens por segundo y, con 256K, el primer token tarda 154 segundos. Si se calcula por cada Spark, GLM logra 33–36 tokens por segundo, el peor resultado de las cuatro configuraciones del autor.
Comparado con un solo Spark, según el artículo anterior, la generación es un 34–59% más rápida, el prefill un 47–62% más rápido, y el TTFT con 128K bajó de 57 a 39 segundos (−32%). La velocidad no se duplica: la segunda máquina aporta aproximadamente una vez y media, no el doble. El prefill escala mejor que la generación, así que el clúster resulta especialmente útil cuando el agente relee con frecuencia bases de código grandes. En el artículo anterior, DeepSeek en dos Spark generaba 99–109 tokens por segundo, es decir, Qwen está a su nivel o un poco por encima, y claramente por delante en prefill y TTFT.
Hay una salvedad. El Spark individual funcionaba con cuantización de 4 bits NVFP4 y el clúster con INT4-AR, así que la comparación no es del todo exacta y solo da un orden de magnitud. No existe medición de 256K para un solo Spark.
Qué falla en GLM 5.3 Flash
La paradoja es que las respuestas de GLM resultan más agradables de leer. Según el autor, Qwen y DeepSeek a veces confunden las terminaciones de las palabras e inventan otras nuevas, como «echoшить», o intercalan caracteres chinos. GLM escribe con fluidez y pulcritud, mueve con precisión los puntos de la lista TODO en los niveles high y max, y sigue con exactitud las skills y las plantillas.
Para el trabajo agéntico, en cambio, mostró hábitos problemáticos:
- El 90% de la salida de Bash son comentarios del propio modelo. El contexto crece rápido y los bloques «Thinking» que había al inicio de la sesión desaparecen: el razonamiento pasa al interior de los comandos.
- Bucles. En la primera tarea, el agente creó 119 archivos del tipo /tmp/probe119.php. El autor lo notó solo porque su plugin muestra las llamadas a herramientas. Sin supervisión, el disco podría haberse llenado antes de la mañana.
- Confusión sobre sus propias acciones cuando el contexto supera los 130–150 mil tokens. El modelo «investiga» quién cambió de rama y luego descubre que lo hizo su propio script calibrate.sh.
Tras esto, el autor añadió una regla a AGENTS.md: si tres intentos distintos dan el mismo resultado, hay que detenerse y revisar la hipótesis, sin lanzar un cuarto. Conclusión práctica: un agente autónomo necesita un límite para las acciones repetitivas; de lo contrario se pierden tanto tokens como espacio en disco.
Herramientas alrededor del modelo
El autor trabaja con una capa de integración minimalista, Pi, en WSL, y ha escrito para ella un plugin para PhpStorm y otros IDE de JetBrains. En una semana añadió tres cosas. La primera, notificaciones en Telegram cuando el agente termina un turno, pide permiso o hace una pregunta. La segunda, sesiones remotas: se puede controlar el agente desde el navegador del teléfono. La tercera, la herramienta ask_question, equivalente a AskUserQuestion de Claude Code, que permite añadir una nota a una opción de respuesta o pedir que se explique la pregunta. Las nuevas funciones las escribieron DeepSeek y Qwen: pocas veces salían a la primera, pero a la segunda o tercera intentona todo funcionaba.
Efecto práctico: el agente ejecuta un benchmark por la noche sin problemas y, si a las cinco de la mañana hace una pregunta, se puede responder desde el teléfono. Sin los límites de una suscripción, el agente local trabaja las 24 horas, y el autor admite que su dependencia de los agentes no ha hecho sino aumentar.
Conviene recordar que se trata de la experiencia de un solo desarrollador en proyectos personales, no de un benchmark independiente. Ha trabajado poco con Qwen y no hay cifras sobre la calidad del código. Como siguiente paso, el autor promete un experimento con el nivel de reasoning effort para programación.
- 18 nov 2026LLM en un VPS sin GPU: modelos de 4B clasifican solicitudes con un 90% de precisión en 3–5 s
- 18 nov 2026Bonsai 2 27B comprimida logró 17 tokens/s en una tarjeta de 2017, y Qwen3 8B, 32
- 18 nov 2026Una IA de lenguaje en el ESP32-S3 se acelera hasta 406 tokens/s: 18 veces más rápido
- 18 nov 2026Tras un fallo, los agentes revierten su trabajo solo en el 47% de los casos, aunque resuelven el 84% de las tareas
Preguntas frecuentes sobre la noticia
Cómo se midió y qué resultados salieron?
Ambos modelos trabajaron con el mismo hardware: dos DGX Spark, el motor TensorFold y un contexto de hasta 1 millón de tokens. La cuantización, es decir, el grado de compresión de los pesos, es distinta: GLM usa 4 bits por peso (formato EXL3) y Qwen, INT4-AR. Para cada tamaño de contexto, de 2K a 256K tokens, el autor hizo 10 mediciones. Los prompts eran únicos, con un añadido aleatorio, de modo que la caché de prefijos no ayudó: se trata de un análisis de texto «en frío» y desde cero.
¿Qué se sabe sobre Qué falla en GLM 5.3 Flash?
La paradoja es que las respuestas de GLM resultan más agradables de leer. Según el autor, Qwen y DeepSeek a veces confunden las terminaciones de las palabras e inventan otras nuevas, como «echoшить», o intercalan caracteres chinos. GLM escribe con fluidez y pulcritud, mueve con precisión los puntos de la lista TODO en los niveles high y max, y sigue con exactitud las skills y las plantillas.
¿Qué se sabe sobre Herramientas alrededor del modelo?
El autor trabaja con una capa de integración minimalista, Pi, en WSL, y ha escrito para ella un plugin para PhpStorm y otros IDE de JetBrains. En una semana añadió tres cosas. La primera, notificaciones en Telegram cuando el agente termina un turno, pide permiso o hace una pregunta. La segunda, sesiones remotas: se puede controlar el agente desde el navegador del teléfono.
Build & Ship Production AI Agents Without Boilerplate Code
Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.