DeepSeek lance DSpark, un framework qui accélère de 57 à 85 % la génération sur DeepSeek-V4

DeepSeek a publié le code source de DSpark, un framework de décodage spéculatif qui s'intègre aux poids existants de DeepSeek-V4 et accélère la génération de texte de 57 à 85 % pour chaque utilisateur, sans perte de qualité des réponses.

Le problème de l'inférence à grande échelle

Les modèles de langage classiques génèrent les tokens de façon strictement séquentielle : chaque étape exige un passage complet dans le réseau de neurones. Sous forte charge, le GPU passe l'essentiel de son temps inactif, à attendre. C'est le régime dit « memory-bound », où le goulot d'étranglement n'est pas le calcul, mais le transfert des poids depuis la mémoire.

Les entreprises qui déploient des LLM en production s'y prennent de différentes façons : la quantification réduit la précision, la distillation impose un réentraînement et le pruning dégrade les cas rares. Le décodage spéculatif occupe une niche à part : il change l'ordre des calculs, mais pas leur nature, si bien que le résultat est mathématiquement identique à celui du modèle d'origine. Un modèle « brouillon » léger prédit rapidement plusieurs tokens à l'avance, et le modèle principal vérifie toute la séquence proposée en un seul passage, parallélisant un travail qui ne pouvait pas l'être auparavant.

Comment fonctionne DSpark

DSpark met en œuvre le décodage spéculatif pour DeepSeek-V4 grâce à quatre mécanismes imbriqués :

• Module de brouillon parallèle : génère rapidement les tokens suivants sans attendre un cycle complet du modèle principal
• Markov head : un ajout léger qui réduit la « dégradation de suffixe », c'est-à-dire la baisse de précision des brouillons à mesure que la séquence s'allonge
• Confidence-scheduled verification : adapte dynamiquement, en temps réel, le nombre de tokens à vérifier à la charge actuelle du GPU
• Intégration transparente : DSpark se greffe sur les poids existants de DeepSeek-V4 sans les réentraîner ; seul le module de brouillon doit être entraîné, via le dépôt DeepSpec

L'innovation clé est l'adaptation à la charge. Quand le GPU est occupé, le système vérifie moins de tokens par passage ; quand il a de la marge, il en vérifie davantage. Les implémentations traditionnelles du décodage spéculatif utilisent un nombre fixe de tokens vérifiés, ce qui entraîne des pertes lors des pics de charge. DSpark règle cette classe de problèmes de manière systématique, sans sacrifier le déterminisme.

Ce que montrent les mesures

Les tests hors ligne enregistrent une hausse de 16 à 31 % de la longueur acceptée (accepted length, la taille moyenne du bloc de tokens que le brouillon devine correctement) par rapport à DFlash et Eagle3, concurrents dans la même catégorie d'outils d'optimisation de l'inférence. En conditions de production, le gain est encore plus net : la vitesse de génération par utilisateur augmente de 57 à 85 % par rapport à la base MTP-1.

Le processus est entièrement lossless : aucun token n'est remplacé par une approximation, et les réponses sont mathématiquement équivalentes aux originales. Pour les services d'API très sollicités, cela signifie qu'un même cluster, sur la même infrastructure, peut servir nettement plus de sessions en parallèle.

Un code ouvert sous licence MIT

Avec DSpark, l'équipe publie DeepSpec, un dépôt pour entraîner des modèles brouillons, sous licence MIT : usage commercial libre, fork et intégration dans ses propres pipelines sans restriction. Cela prolonge la ligne d'ouverture de DeepSeek. L'entreprise avait déjà publié des détails d'architecture de V3 et R1 ; elle ouvre désormais la couche d'infrastructure, avec des outils d'accélération de l'inférence que les grands fournisseurs gardent généralement propriétaires.

Ce que cela signifie

DSpark apporte une réponse pratique à la grande question de la production : comment tirer davantage du matériel déjà acheté. Un gain de vitesse de 57 à 85 % sans perte de qualité et sans réentraîner le modèle principal se traduit par une économie directe en heures de GPU pour tous ceux qui déploient DeepSeek-V4. La licence ouverte MIT rend le framework accessible à n'importe quelle équipe, de la startup au centre de données d'entreprise.