DiffResearch: LLM de difusão acelera deep research em 6 vezes

Pesquisadores apresentaram o DiffResearch, um framework multiagente aberto para deep research em que um modelo de linguagem de difusão (dLLM) sustenta todas as etapas, do planejamento ao relatório final. Em 100 tarefas do Deep Research Bench, esse sistema roda cerca de 6 vezes mais rápido do que a mesma estrutura com um modelo autorregressivo comparável. O código foi publicado sob a licença Apache-2.0.

O principal gargalo do deep research interativo é a latência. O sistema planeja, busca fontes, consolida fatos e reescreve o rascunho, e em cada passo o modelo gera texto da esquerda para a direita, token por token. Quase todas as soluções em produção funcionam assim. Os autores do DiffResearch testaram o que acontece ao remover essa limitação no núcleo do sistema.

Trocar o motor e manter o chassi

O experimento foi desenhado com cuidado. O arcabouço de agentes, o código de retrieval, os prompts e a metodologia de avaliação permaneceram fixos. Só mudou o modelo de base: um de difusão aberto, contra um autorregressivo comparável. Dessa forma, a diferença de velocidade e de qualidade pode ser atribuída à arquitetura de decodificação, e não a particularidades do pipeline.

O resultado foi uma aceleração end-to-end de cerca de 6 vezes. O ganho veio principalmente de duas etapas, justamente as que mais geram texto: planejamento e redação do relatório. Nelas, o tempo caiu uma ordem de grandeza. O modelo de difusão não emite tokens um a um. Ele refina o trecho inteiro de uma só vez, ao longo de alguns passos de denoising, e em saídas longas isso traz um ganho perceptível.

dFast: subconsultas a partir de um texto inacabado

A segunda ideia dos autores é a mais interessante. A cada passo, o modelo de difusão mantém um estado intermediário, ainda ruidoso, de toda a resposta. O modo dFast lê esses estados e extrai as subconsultas de busca sem esperar o fim da geração. A busca começa antes de o modelo terminar de escrever o plano.

Na decomposição, avaliada isoladamente, a aceleração mediana foi de 1,99×, sem queda na qualidade dos relatórios. Na rubrica RACE do benchmark, o dFast obteve a melhor nota geral entre as três configurações: autorregressiva, de difusão convencional e a própria dFast. O ponto importante aqui é que a velocidade não foi comprada com perda de qualidade.

Separadamente, os autores apresentam um recorte do leaderboard público de sistemas. Uma instância do DiffResearch com um modelo de difusão mais forte ficou acima de vários sistemas comerciais. É um retrato do momento da medição, mas o resultado é expressivo para um projeto aberto baseado em dLLM.

Principais parâmetros do trabalho:

• Benchmark: 100 tarefas do Deep Research Bench, avaliação pela rubrica RACE.
• Aceleração end-to-end: cerca de 6× em relação ao modelo autorregressivo.
• Planejamento e redação: redução do tempo em uma ordem de grandeza.
• dFast: aceleração mediana de 1,99× na decomposição, sem perda de qualidade.
• Licença: Apache-2.0.

Quem deve testar e o que levar para produção

Equipes que constroem agentes de pesquisa devem olhar para a latência por etapa. Se a maior parte do tempo vai para passos longos de planejamento e escrita, trocar o modelo de base traz o maior efeito. A arquitetura do arcabouço pode continuar a mesma, como mostrou o experimento com scaffold fixo.

A segunda conclusão prática diz respeito a pipelines com início antecipado da busca. A ideia do dFast se aplica onde os estados intermediários do modelo são acessíveis externamente: as subconsultas podem ser enviadas ao retrieval à medida que aparecem no rascunho. Para modelos autorregressivos, esse truque em sua forma pura é impossível, porque eles não têm uma visão "inteira" da resposta até o fim da geração.

Há limitações. A comparação foi feita em um único benchmark e com um único par de modelos, e modelos de difusão fortes ainda são mais raros do que os autorregressivos. Por outro lado, a licença aberta permite verificar o resultado com dados e retrieval próprios. Se os números se confirmarem, as LLMs de difusão ganharão um caso de uso convincente justamente onde a latência mais irrita o usuário.