DiffResearch: un LLM de difusión acelera el deep research 6 veces

Un grupo de investigadores ha presentado DiffResearch, un framework multiagente abierto para deep research en el que un modelo de lenguaje de difusión (dLLM) sustenta cada etapa, desde la planificación hasta el informe final. En 100 tareas de Deep Research Bench, este sistema funciona unas 6 veces más rápido que la misma arquitectura con un modelo autorregresivo comparable. El código se ha publicado bajo licencia Apache-2.0.

El gran problema del deep research interactivo es la latencia. El sistema planifica, busca fuentes, sintetiza datos y reescribe el borrador, y en cada paso el modelo genera texto de izquierda a derecha, token a token. Casi todas las soluciones en producción funcionan así. Los autores de DiffResearch quisieron comprobar qué ocurre si se elimina esa restricción en el núcleo mismo del sistema.

Cambiar el motor sin tocar el chasis

El experimento está planteado con cuidado. El andamiaje de agentes, el código de retrieval, los prompts y la metodología de evaluación se mantuvieron fijos. Solo cambió el modelo base: uno de difusión abierto frente a uno autorregresivo comparable. Así, la diferencia de velocidad y calidad puede atribuirse a la arquitectura de decodificación y no a las particularidades del pipeline.

El resultado es una aceleración end-to-end de aproximadamente 6 veces. La mayor contribución viene de las dos etapas en las que el modelo genera más texto: la planificación y la redacción del informe. En ellas, el tiempo se redujo un orden de magnitud. El modelo de difusión no emite los tokens de uno en uno, sino que refina todo el fragmento a la vez en varios pasos de eliminación de ruido, lo que supone una ventaja notable en salidas largas.

dFast: subconsultas a partir de un texto a medias

La segunda idea de los autores es más interesante. En cada paso, el modelo de difusión mantiene un estado intermedio, todavía ruidoso, de toda la respuesta. El modo dFast lee esos estados y extrae las subconsultas de búsqueda sin esperar a que termine la generación. La búsqueda arranca antes de que el modelo haya terminado de escribir el plan.

En la descomposición, medida de forma aislada, la aceleración mediana fue de 1,99× y la calidad de los informes no bajó. En la rúbrica RACE del benchmark, dFast obtuvo la mejor puntuación global entre las tres configuraciones: la autorregresiva, la de difusión convencional y la propia dFast. Lo relevante aquí es que la velocidad no se ha comprado a costa de la calidad.

Por separado, los autores aportan una captura de un ranking público de sistemas. Una instancia de DiffResearch con un modelo de difusión más potente quedó por encima de varios sistemas comerciales. Es una instantánea del momento de la medición, pero para un proyecto abierto basado en dLLM el resultado tiene peso.

Parámetros clave del trabajo:

• Benchmark: 100 tareas de Deep Research Bench, evaluación con la rúbrica RACE.
• Aceleración end-to-end: aproximadamente 6× respecto al modelo autorregresivo.
• Planificación y redacción: reducción del tiempo en un orden de magnitud.
• dFast: aceleración mediana de la descomposición de 1,99× sin pérdida de calidad.
• Licencia: Apache-2.0.

Quién debería probarlo en producción y qué

Los equipos que construyen agentes de investigación deberían revisar la latencia por etapas. Si la mayor parte del tiempo se va en pasos largos de planificación y escritura, cambiar el modelo base ofrece el máximo efecto. La arquitectura del andamiaje puede seguir igual, como demostró el experimento con el scaffold fijo.

La segunda conclusión práctica afecta a los pipelines con lanzamiento temprano de la búsqueda. La idea de dFast es aplicable donde los estados intermedios del modelo son accesibles desde fuera: las subconsultas pueden enviarse al retrieval a medida que aparecen en el borrador. Con modelos autorregresivos, este truco es imposible en su forma pura, porque no tienen una imagen «completa» del texto hasta que termina la generación.

También hay limitaciones. La comparación se hizo con un solo benchmark y un solo par de modelos, y los modelos de difusión potentes siguen siendo menos comunes que los autorregresivos. Sin embargo, la licencia abierta permite verificar el resultado con datos y un retrieval propios. Si las cifras se confirman, los LLM de difusión tendrán un caso de uso convincente justo donde la latencia más irrita al usuario.