DiffResearch : un LLM de diffusion accélère le deep research d'un facteur 6

Des chercheurs ont présenté DiffResearch, un framework multi-agents open source pour le deep research. Un modèle de langage de diffusion (dLLM) sert de base à chaque étape, de la planification au rapport final. Sur 100 tâches de Deep Research Bench, ce système fonctionne environ 6 fois plus vite que la même construction reposant sur un modèle autorégressif comparable. Le code est publié sous licence Apache-2.0.

Le principal point faible du deep research en mode interactif, c'est la latence. Le système planifie, cherche des sources, synthétise les faits, réécrit un brouillon, et à chaque étape le modèle génère le texte de gauche à droite, token par token. Presque toutes les solutions en production fonctionnent ainsi. Les auteurs de DiffResearch ont testé ce qui se passe quand on lève cette contrainte au cœur même du système.

Changer de moteur sans toucher au châssis

L'expérience est construite avec rigueur. L'architecture agentique, le code de retrieval, les prompts et la méthode d'évaluation sont restés fixes. Seul le modèle de base a changé : un modèle de diffusion ouvert contre un modèle autorégressif comparable. On peut ainsi attribuer la différence de vitesse et de qualité à l'architecture de décodage, et non aux particularités du pipeline.

Le résultat : une accélération de bout en bout d'environ 6 fois. Deux étapes y contribuent surtout, celles où le modèle génère le plus de texte : la planification et la rédaction du rapport. Le temps y a baissé d'un ordre de grandeur. Le modèle de diffusion ne produit pas les tokens un par un : il affine tout un fragment d'un coup, en quelques étapes de débruitage, ce qui représente un gain net sur les sorties longues.

dFast : des sous-requêtes tirées d'un texte inachevé

La seconde idée des auteurs est plus intéressante. À chaque étape, un modèle de diffusion conserve un état intermédiaire, encore bruité, de l'ensemble de la réponse. Le mode dFast lit ces états et en extrait les sous-requêtes de recherche sans attendre la fin de la génération. La recherche démarre avant que le modèle ait fini d'écrire le plan.

Sur la décomposition prise isolément, l'accélération médiane atteint 1,99×, sans baisse de qualité des rapports. Sur la rubrique RACE du benchmark, dFast obtient le meilleur score global parmi trois configurations : autorégressive, diffusion classique et dFast elle-même. Point important : cette vitesse ne s'achète pas au prix de la qualité.

Les auteurs présentent par ailleurs un extrait d'un classement public de systèmes. Une instance de DiffResearch reposant sur un modèle de diffusion plus puissant se classe au-dessus de plusieurs systèmes commerciaux. Il s'agit d'un instantané au moment de la mesure, mais le résultat pèse pour un projet ouvert fondé sur une dLLM.

Paramètres clés de l'étude :

• Benchmark : 100 tâches de Deep Research Bench, évaluation selon la rubrique RACE.
• Accélération de bout en bout : environ 6× par rapport au modèle autorégressif.
• Planification et rédaction : temps réduit d'un ordre de grandeur.
• dFast : accélération médiane de la décomposition de 1,99× sans perte de qualité.
• Licence : Apache-2.0.

Qui devrait tester quoi en production

Les équipes qui construisent des agents de recherche gagneraient à examiner la latence étape par étape. Si l'essentiel du temps part dans de longues phases de planification et de rédaction, le remplacement du modèle de base produit l'effet maximal. L'architecture du framework peut rester la même, comme l'a montré l'expérience avec un scaffold fixe.

Le second enseignement pratique concerne les pipelines qui lancent la recherche tôt. L'idée de dFast s'applique là où les états intermédiaires du modèle sont accessibles de l'extérieur : on peut envoyer les sous-requêtes au retrieval au fur et à mesure qu'elles apparaissent dans le brouillon. Avec des modèles autorégressifs, ce tour de passe-passe est impossible en l'état, car ils n'ont pas de vision « globale » de la réponse avant la fin de la génération.

Il y a aussi des limites. La comparaison porte sur un seul benchmark et une seule paire de modèles, et les modèles de diffusion performants restent pour l'instant moins nombreux que les modèles autorégressifs. Mais la licence ouverte permet de vérifier le résultat sur ses propres données et avec son propre retrieval. Si les chiffres se confirment, les LLM de diffusion tiendront un cas d'usage convaincant là où la latence agace le plus l'utilisateur.