DeepSeek lanza DSpark, un framework que acelera entre un 57 % y un 85 % la generación en DeepSeek-V4

DeepSeek ha abierto el código de DSpark, un framework de decodificación especulativa que se integra en los pesos existentes de DeepSeek-V4 y acelera la generación de texto para cada usuario entre un 57 % y un 85 % sin perder calidad en las respuestas.

El problema de la inferencia a escala

Los modelos de lenguaje estándar generan tokens de forma estrictamente secuencial: cada paso exige un recorrido completo por la red neuronal. Con mucha carga, la GPU pasa la mayor parte del tiempo inactiva, a la espera. Es el llamado régimen «memory-bound», en el que el cuello de botella no es el cálculo, sino el traslado de los pesos desde la memoria.

Las empresas que despliegan LLM en producción abordan el problema de distintas maneras: la cuantización reduce la precisión, la destilación requiere reentrenar y la poda (pruning) empeora los casos poco frecuentes. La decodificación especulativa ocupa un nicho propio: cambia el orden de los cálculos, pero no su esencia, por lo que el resultado es matemáticamente idéntico al del modelo original. Un modelo «borrador» ligero predice rápidamente varios tokens por adelantado y el modelo principal verifica toda la secuencia propuesta en una sola pasada, paralelizando un trabajo que antes no se podía paralelizar.

Cómo funciona DSpark

DSpark implementa la decodificación especulativa para DeepSeek-V4 mediante cuatro mecanismos interrelacionados:

• Módulo de borrador paralelo: genera rápidamente los siguientes tokens sin esperar al ciclo completo del modelo principal
• Markov head: un complemento ligero que reduce el «decaimiento de sufijo», es decir, la caída de precisión de los borradores a medida que la secuencia se alarga
• Confidence-scheduled verification: adapta dinámicamente y en tiempo real el número de tokens a verificar según la carga actual de la GPU
• Integración sin fricciones: DSpark se acopla a los pesos existentes de DeepSeek-V4 sin reentrenarlos; solo hay que entrenar el módulo de borrador mediante el repositorio DeepSpec

La clave es la adaptación a la carga. Cuando la GPU está ocupada, el sistema verifica menos tokens por pasada; cuando hay margen, verifica más. Las implementaciones tradicionales de decodificación especulativa usan un número fijo de tokens verificados, lo que provoca pérdidas en los picos de carga. DSpark resuelve esta clase de problemas de forma sistemática, sin sacrificar el determinismo.

Qué muestran las mediciones

Las pruebas offline registran un aumento del 16–31 % en la longitud aceptada (accepted length, el tamaño medio del bloque de tokens que el borrador acierta) frente a DFlash y Eagle3, competidores en la misma clase de herramientas de optimización de inferencia. En condiciones de producción la mejora es aún mayor: la velocidad de generación por usuario crece un 57–85 % respecto a la base MTP-1.

El proceso es totalmente lossless: ningún token se sustituye por una aproximación y las respuestas son matemáticamente equivalentes a las originales. Para los servicios de API con mucha carga, esto significa que un mismo clúster, con la misma infraestructura, puede atender bastantes más sesiones en paralelo.

Código abierto con licencia MIT

Junto con DSpark, el equipo publica DeepSpec, un repositorio para entrenar modelos borrador, con licencia MIT: uso comercial libre, bifurcación e integración en pipelines propios sin restricciones. Es una continuación de la línea de apertura de DeepSeek. Antes la compañía había publicado detalles de la arquitectura de V3 y R1; ahora abre la capa de infraestructura, con herramientas de aceleración de la inferencia que los grandes proveedores suelen mantener como propietarias.

Qué significa

DSpark es una respuesta práctica a la principal pregunta en producción: cómo sacar más partido al hardware ya comprado. Un aumento de velocidad del 57–85 % sin perder calidad y sin reentrenar el modelo principal supone un ahorro directo en horas de GPU para todos los que despliegan DeepSeek-V4. La licencia abierta MIT pone el framework al alcance de cualquier equipo, desde una startup hasta un centro de datos corporativo.