Refinamento paralelo em vez de difusão: DRLMs atingem 93,9% no Sudoku-Extreme

Um novo método de raciocínio paralelo: gerar e refinar em vez de difundir

A Microsoft Research apresentou os Draft Refinement Language Models (DRLMs), uma abordagem inovadora para modelar raciocínio complexo. O método se afasta radicalmente dos dois paradigmas dominantes: não segue nem a lógica sequencial token a token dos modelos autorregressivos, nem a lógica de passo reverso da difusão. Em vez disso, os DRLMs geram um rascunho completo da resposta de uma só vez e depois o refinam iterativamente propondo e avaliando correções paralelas.

A ideia central é simples: a resposta final resulta do refinamento repetido do todo, e não de uma sequência de escolhas microscópicas a cada token. Em cada iteração, o modelo considera todo o contexto — a pergunta original e o rascunho atual — simultaneamente, o que permite decisões de correção mais bem informadas.

Arquitetura: um único denoiser e o cavity-energy score

O DRLM utiliza um único denoiser, um módulo treinado para reconstruir cada token a partir de rascunhos corrompidos de forma uniforme. Trata-se de um treinamento de duplo propósito: o modelo aprende tanto a preservar tokens corretos quanto a corrigir os errados. As previsões do denoiser determinam diretamente as correções propostas sem executar uma transformação de difusão reversa — é isso que diferencia fundamentalmente o DRLM dos modelos clássicos de difusão discreta.

A inovação central é o cavity-energy score, uma métrica para avaliar a qualidade do rascunho calculada em um único forward pass, sem necessidade de um modelo verificador separado. O cavity-energy mede o quão bem cada token é sustentado pelo contexto ao seu redor. Os autores usam um processo conhecido de corrupção de dados para corrigir o self-token evidence — a influência do próprio token sobre sua pontuação —, obtendo assim uma medida limpa do suporte contextual de cada posição.

O processo de refinamento é estritamente iterativo: (1) a partir do rascunho atual, propor correções para todas as posições em paralelo; (2) calcular o cavity-energy do candidato completo em seu contexto refinado (um único forward pass); (3) manter a correção apenas se o novo valor de cavity-energy for menor do que o anterior.

Resultados em três benchmarks de raciocínio complexo

Os autores testaram o DRLM em três tarefas que exigem raciocínio combinatório profundo. Todos os testes foram feitos com um modelo de 6M de parâmetros:

• Countdown-5: o DRLM atingiu 44,4% de precisão, 34,1 pontos percentuais acima do melhor baseline de difusão discreta (10,3%) • Sudoku-Extreme: o DRLM resolveu 93,9% dos problemas, superando o baseline em 28,4 pontos (baseline: 65,5%) • Maze-Hard: o DRLM obteve 73,0%, 33,7 pontos acima do baseline (baseline: 39,3%)

Ganhos de 28 a 34 pontos percentuais representam uma melhoria de fundo. É importante notar que o DRLM não exige um modelo de pontuação separado — o cavity-energy é calculado em paralelo com o modelo principal dentro de um único forward pass.

O que isso significa para a área

O refinamento completo de rascunhos é uma alternativa viável e eficaz tanto aos processos de difusão reversa quanto à decodificação autorregressiva. Isso é especialmente crítico em tarefas de raciocínio complexo, nas quais o modelo precisa coordenar escolhas entre múltiplas variáveis simultaneamente.

O refinamento paralelo permite ao modelo avaliar explicitamente candidatos inteiros e escolher aqueles com melhor suporte contextual — uma medida de qualidade mais honesta do que escolher um token por vez, de forma sequencial.

Autores: Jaesang Yu, Seoyeon Byun, Yun Wang, Yan Lu, Juho Kim

Organização: Microsoft Research

Data de publicação: 19 de outubro de 2026

Tamanho do modelo: 6M de parâmetros