DeepSeek выпустила DSpark — фреймворк, ускоряющий генерацию на DeepSeek-V4 на 57–85%

DeepSeek открыла исходный код DSpark — фреймворка спекулятивного декодирования, который встраивается в существующие веса DeepSeek-V4 и разгоняет генерацию текста для каждого пользователя на 57–85% без потери качества ответов.

Проблема инференса при масштабе

Стандартные языковые модели генерируют токены строго последовательно: каждый следующий шаг требует полного прохода через нейросеть. При высокой нагрузке GPU большую часть времени простаивает в ожидании — это так называемый «memory-bound» режим, когда узким местом является не вычисление, а пересылка весов из памяти. Компании, которые деплоят LLM в продакшн, решают эту проблему по-разному: квантизация снижает точность, дистилляция требует переобучения, pruning ухудшает редкие сценарии. Спекулятивное декодирование занимает особую нишу — оно меняет порядок вычислений, но не их суть, поэтому результат математически идентичен оригинальной модели. Лёгкая «черновая» модель быстро предсказывает сразу несколько токенов вперёд, а основная модель за один проход проверяет всю предложенную последовательность — и параллелизирует работу, которую раньше нельзя было распараллелить.

Как устроен DSpark DSpark реализует спекулятивное декодирование для

DeepSeek-V4 через четыре взаимосвязанных механизма: Параллельный черновой модуль — быстро генерирует несколько следующих токенов без ожидания полного цикла основной модели Markov head — лёгкая надстройка, снижающая «суффиксный распад»: падение точности черновиков по мере удлинения последовательности Confidence-scheduled verification — динамически адаптирует количество токенов на проверку под текущую нагрузку GPU в реальном времени Бесшовная интеграция — DSpark крепится поверх существующих весов DeepSeek-V4 без их переобучения; нужно обучить только черновой модуль через репозиторий DeepSpec Ключевая инновация — адаптивность к нагрузке. Когда GPU занят, система проверяет меньше токенов за один проход; когда есть запас — больше. Традиционные реализации спекулятивного декодирования используют фиксированное число проверяемых токенов, что приводит к потерям при пиках нагрузки.

DSpark решает этот класс проблем системно, не жертвуя детерминированностью.

Что показывают измерения

Офлайн-тесты фиксируют рост принятой длины (accepted length — средний размер блока токенов, который черновик угадывает правильно) на 16–31% по сравнению с DFlash и Eagle3 — конкурентами в том же классе инструментов для оптимизации инференса. В продакшн-условиях прирост ещё весомее: скорость генерации на каждого пользователя растёт на 57–85% относительно базового MTP-1. Процесс полностью lossless — ни один токен не заменяется приближением, ответы математически эквивалентны оригинальным. Для нагруженных API-сервисов это означает, что один кластер при той же инфраструктуре может обслуживать существенно больше параллельных сессий.

Открытый код под MIT

Вместе с DSpark команда публикует DeepSpec — репозиторий для обучения черновых моделей — под лицензией MIT: свободное коммерческое использование, форкинг и встраивание в собственные пайплайны без ограничений. Это продолжает принципиальную линию DeepSeek на открытость. Ранее компания публиковала архитектурные детали V3 и R1; теперь открывает уровень инфраструктуры — инструменты ускорения инференса, которые крупные провайдеры обычно держат проприетарными.

Что это значит DSpark — практический ответ на главный производственный

вопрос: как выжать больше из уже купленного железа. Прирост 57–85% скорости без потери качества и без переобучения основной модели — прямая экономия на GPU-часах для всех, кто деплоит DeepSeek-V4. Открытая MIT-лицензия делает фреймворк доступным для любой команды — от стартапа до корпоративного дата-центра.