BatchDAG: un planificador LLM construye un grafo de operaciones y reduce hasta 47 veces las llamadas al modelo

En julio de 2026, un grupo de investigadores publicó en arXiv BatchDAG, un sistema en el que un modelo de lenguaje construye el grafo de ejecución de una consulta sobre datos corporativos y un motor independiente lo ejecuta. El enfoque reduce hasta 47 veces el número de llamadas al modelo y, en producción en Brevian.ai, procesa consultas sobre más de 50 000 reuniones en menos de 60 segundos.

Cómo funciona BatchDAG

BatchDAG trabaja en dos pasos. Primero, un gran modelo de lenguaje (LLM) genera un grafo acíclico dirigido (DAG) tipado de operaciones. Después, un motor determinista lo ejecuta con paralelismo por oleadas topológicas. Los nodos del grafo son consultas SQL, búsqueda semántica, transformaciones in-memory, ramificaciones paralelas (fan-out) y análisis individuales; los datos pasan de un nodo a otro como JSON estructurado.

Según el artículo de arXiv, el planificador de BatchDAG genera un grafo correcto en el 98,8% de los casos, una cifra medida sobre 300 llamadas de planificación.

• Reducción de llamadas al LLM: hasta 47 veces gracias al entity-aware batching
• DAG correcto: en el 98,8% de 300 llamadas del planificador
• Escala: más de 50 000 reuniones procesadas en menos de 60 segundos
• Coste por consulta: de $0,02 a $0,24 según los precios publicados de GPT-5.1
• Calidad de las respuestas: 3,74/5 frente a 3,25/5 de un pipeline experto

Por qué alucina menos

Los resultados intermedios en JSON estructurado reducen las alucinaciones un 27% frente a los resúmenes en texto, según un experimento de ablación controlado de los autores (prueba t pareada, p=0.107, n=12). Los datos intermedios con esquema explícito impiden que el modelo «rellene» hechos entre un paso y otro.

La optimización clave es el entity-aware batching: antes de la ramificación paralela, el sistema agrupa las filas por entidad lógica, y eso es lo que permite reducir las llamadas al LLM hasta 47 veces. También mejora la verificabilidad: la proporción de respuestas respaldadas por una cita de la transcripción fue del 77% en BatchDAG, frente al 46–60% de los enfoques de referencia.

Cómo se comportó en las pruebas

En experimentos controlados con 12 consultas sobre transcripciones de reuniones, BatchDAG obtuvo 3,74/5 y superó al pipeline experto (3,25/5) y a un agente ReAct (3,09/5, p<0.01). Los autores subrayan que el objetivo del sistema no es la precisión en sí misma, sino la versatilidad.

«BatchDAG no supone tanto una mejora de precisión sobre los pipelines

optimizados a mano como una capa de orquestación universal que sustituye muchos scripts escritos a mano por un solo sistema», señala el artículo de arXiv.

En producción, en Brevian.ai, el sistema funciona sobre GPT-5.1 y mantiene el coste de cada consulta entre $0,02 y $0,24.

Qué significa

BatchDAG apunta a una vía práctica para el análisis de grandes volúmenes de datos corporativos: en lugar de decenas de pipelines escritos a mano, un único sistema que traduce por sí mismo una consulta en lenguaje natural a un plan de ejecución. Para los equipos, esto se traduce en respuestas más rápidas y verificables a escala de más de 50 000 documentos, con un tiempo de respuesta inferior a un minuto y sin ajustes manuales para cada tipo de pregunta.

Preguntas frecuentes

¿Qué es BatchDAG?

BatchDAG es una capa de orquestación en la que un LLM construye un grafo tipado de operaciones (SQL, búsqueda semántica, transformaciones) y un motor determinista lo ejecuta en paralelo. El sistema se presentó en un artículo de arXiv en julio de 2026.

¿Cuánto cuesta una consulta?

Según los autores, el coste de una consulta va de $0,02 a $0,24 con los precios publicados de GPT-5.1, al procesar un corpus de más de 50 000 reuniones en menos de 60 segundos.

¿En qué se diferencia BatchDAG de un agente ReAct?

BatchDAG construye de antemano el grafo de ejecución completo y lanza en paralelo las ramas independientes, mientras que un agente ReAct actúa paso a paso. En las pruebas esto se tradujo en 3,74/5 frente a 3,09/5 del agente ReAct, y elimina la latencia lineal de las llamadas secuenciales a herramientas.