Raffinement parallèle plutôt que diffusion : les DRLM atteignent 93,9% sur Sudoku-Extreme

Une nouvelle méthode de raisonnement parallèle : générer puis affiner

plutôt que diffuser

Microsoft Research a présenté les Draft Refinement Language Models (DRLM), une approche inédite pour modéliser le raisonnement complexe. Cette méthode rompt radicalement avec les deux paradigmes dominants : elle ne suit ni la logique de génération token par token des modèles autoregressive, ni celle du processus inverse de diffusion. Le DRLM génère d'un seul coup un brouillon complet de réponse, puis l'affine de manière itérative en proposant et en évaluant des corrections parallèles.

L'idée centrale est simple : la réponse finale résulte d'un affinage cyclique de l'ensemble, et non d'une multitude de micro-choix pris à chaque étape. À chaque itération, le modèle considère tout le contexte — la question initiale et le brouillon courant — simultanément, ce qui lui permet de prendre des décisions de correction mieux informées.

Architecture : un denoiser unique et le cavity-energy score

Le DRLM repose sur un unique denoiser — un module entraîné à reconstruire chaque token à partir de brouillons corrompus de façon uniforme. Cet entraînement poursuit un double objectif : le modèle apprend à la fois à préserver les tokens corrects et à corriger les tokens erronés. Les prédictions du denoiser déterminent directement les corrections proposées, sans passer par une transformation inverse de diffusion — c'est ce qui distingue fondamentalement le DRLM des modèles de discrete diffusion classiques.

L'innovation centrale est le cavity-energy score, une métrique qui évalue la qualité d'un brouillon en une seule passe avant (forward pass), sans modèle de vérification distinct. Le cavity-energy mesure dans quelle mesure chaque token est soutenu par son contexte environnant. Les auteurs utilisent un processus de corruption des données déjà connu pour corriger le self-token evidence — l'influence du token lui-même sur sa propre évaluation. Cela permet d'obtenir une mesure propre du soutien contextuel de chaque position.

Le processus d'affinage est strictement itératif : (1) à partir de la version courante, proposer des corrections pour toutes les positions en parallèle ; (2) calculer le cavity-energy du candidat complet dans son contexte affiné (une seule passe avant) ; (3) ne conserver la correction que si la nouvelle valeur de cavity-energy est inférieure à la précédente.

Résultats sur trois benchmarks de raisonnement complexe

Les auteurs ont testé le DRLM sur trois tâches exigeant un raisonnement combinatoire approfondi. Tous les tests ont été réalisés sur un modèle de 6M de paramètres :

• Countdown-5 : le DRLM atteint 44,4% de précision, soit 34,1 points de pourcentage au-dessus de la meilleure baseline en discrete diffusion (10,3%) • Sudoku-Extreme : le DRLM résout 93,9% des tâches, dépassant la baseline de 28,4 points (baseline : 65,5%) • Maze-Hard : le DRLM affiche 73,0%, soit 33,7 points au-dessus de la baseline (baseline : 39,3%)

Des gains de 28 à 34 points de pourcentage représentent une amélioration de fond. Point important : le DRLM ne nécessite pas de modèle de scoring séparé. Le cavity-energy est calculé en parallèle du modèle principal, dans le cadre d'une seule passe avant.

Portée pour le domaine

L'affinage complet de brouillons constitue une alternative viable et efficace, tant aux processus de diffusion inverse qu'au decoding autoregressive. Cela s'avère particulièrement déterminant pour les tâches de raisonnement complexe, où le modèle doit coordonner des choix entre plusieurs variables simultanément.

L'affinage parallèle permet au modèle d'évaluer explicitement des candidats entiers et de retenir ceux qui bénéficient du meilleur soutien contextuel — une évaluation de qualité plus honnête qu'un choix séquentiel token par token.

Auteurs : Jaesang Yu, Seoyeon Byun, Yun Wang, Yan Lu, Juho Kim

Organisation : Microsoft Research

Date de publication : 19 octobre 2026

Taille du modèle : 6M de paramètres