T2Quant redistribue la précision selon les étapes des LLM de diffusion : jusqu'à +6,7 points de pourcentage

Les modèles de langage à diffusion ne génèrent pas le texte comme les LLM autorégressifs classiques : ils n'écrivent pas token après token, mais « nettoient » progressivement une séquence bruitée en plusieurs étapes de débruitage. Ce schéma a un coût, puisqu'il faut exécuter le modèle de nombreuses fois d'affilée. Les auteurs d'un article récent publié sur Hugging Face Daily Papers proposent de réduire ce coût par la quantification et présentent la méthode T2Quant.

Elle répartit la résolution en bits des activations entre les étapes de débruitage, en tenant compte de la tâche visée. Sur trois DLM et six benchmarks, T2Quant améliore la précision moyenne des méthodes de quantification existantes de 6,7 points de pourcentage au maximum, à budget de bits identique.

Pourquoi les étapes de débruitage mettent en échec la quantification classique

La quantification habituelle des LLM est réglée comme si toutes les passes avant du modèle se valaient. Pour les modèles de diffusion, cette hypothèse ne tient pas. Une erreur d'arrondi introduite à une étape précoce, quand le texte ressemble encore presque à du bruit, ne se comporte pas comme la même erreur aux dernières étapes, quand le modèle affine les détails. Les auteurs montrent que la sensibilité à la quantification dépend du temps, c'est-à-dire du numéro de l'étape.

Une seconde dépendance tient à la tâche. Selon les tâches en aval (downstream), la précision requise varie d'une phase de débruitage à l'autre. Un profil adapté à un type de benchmark peut coûter une perte de qualité notable sur un autre. Un schéma de précision unique pour toutes les étapes et toutes les tâches reste un compromis qui n'est optimal nulle part.

Un signal sans annotations

La principale trouvaille pratique du travail : ces schémas de sensibilité peuvent être prédits sans labels ground-truth et sans métriques propres à la tâche. D'ordinaire, ajuster la configuration de quantification à une tâche impose de lancer une évaluation sur des données annotées, ce qui coûte cher et n'est pas toujours possible. T2Quant s'appuie sur un signal de sensibilité label-free et en déduit à quelles étapes les activations ont besoin de plus de bits, et à quelles étapes moins suffisent.

La contrainte est stricte : le budget global de résolution en bits est fixe. La méthode n'ajoute aucun bit au-delà de la limite, elle les redistribue entre les étapes. Si la précision peut être réduite presque sans dommage à certaines phases de la génération, les ressources ainsi libérées vont aux étapes critiques.

Paramètres clés du travail :

• objet : modèles de langage à diffusion (DLM) ;
• ce qui est optimisé : la résolution en bits des activations selon l'étape de débruitage ;
• contrainte : budget de bits fixe ;
• signal de sélection : label-free, sans labels ni métriques de la tâche ;
• validation : trois DLM et six benchmarks ;
• résultat : hausse de la précision moyenne des méthodes de quantification existantes jusqu'à +6,7 points de pourcentage.

Ce qu'il faut changer dans le pipeline d'inférence

Détail important : T2Quant ne remplace pas les méthodes de quantification existantes, il les améliore. Les auteurs constatent un gain stable de précision moyenne par-dessus les approches déjà connues. Une équipe qui déploie des DLM n'a pas besoin de réécrire toute sa stack. Il suffit d'ajouter une couche qui décide de la résolution en bits des activations à utiliser à chaque étape.

Pour les ingénieurs en charge de l'inférence, le travail débouche sur trois enseignements. Premièrement, le profil de précision par étape mérite d'être traité comme un paramètre de réglage à part entière, et non comme une constante. Deuxièmement, il est possible d'ajuster ce profil à la tâche sans données annotées, donc aussi en production, où l'on ne dispose pas de réponses de référence. Troisièmement, avec une limite stricte de mémoire et de calcul, on obtient un gain de plusieurs points de pourcentage sans augmenter le budget de bits.

Pour l'industrie, c'est le signe que les modèles de langage à diffusion se rapprochent des outils d'optimisation appliqués depuis longtemps aux LLM autorégressifs, avec en plus la prise en compte de la dimension temporelle. Plus le débruitage itératif coûte peu, plus la concurrence des DLM avec les modèles classiques sur le coût par token devient réaliste. Pour l'instant, il s'agit d'un résultat académique obtenu sur trois modèles et six tests. Mais le principe selon lequel « la précision dépend de l'étape et de la tâche » sera très probablement testé dans d'autres implémentations de DLM.