BatchDAG: LLM-планировщик строит граф операций и режет вызовы модели в 47 раз

En julio de 2026, investigadores publicaron en arXiv un sistema llamado BatchDAG, en el que un modelo de lenguaje construye un grafo de ejecución para una consulta sobre datos corporativos, mientras que un motor independiente lo ejecuta; el enfoque reduce el número de llamadas al modelo hasta en 47 veces y, en producción en Brevian.ai, procesa consultas sobre 50000+ reuniones en menos de 60 segundos.

Cómo funciona BatchDAG

BatchDAG funciona en dos pasos: primero, un modelo de lenguaje grande (LLM) genera un grafo acíclico dirigido (DAG) tipado de operaciones, y luego un motor determinista lo ejecuta con paralelismo por oleadas topológicas. Los nodos del grafo son consultas SQL, búsqueda semántica, transformaciones en memoria (in-memory), ramificaciones paralelas (fan-out) y análisis individuales, y los datos se transmiten entre ellos como JSON estructurado.

El planificador de BatchDAG genera un grafo correcto en el 98,8% de los casos — medido en 300 llamadas de planificación, según el artículo publicado en arXiv.

• Reducción del número de llamadas al LLM — hasta 47 veces gracias al entity-aware batching
• DAG correcto — en el 98,8% de 300 llamadas del planificador
• Escala — 50000+ reuniones procesadas en menos de 60 segundos
• Costo por consulta — $0,02–$0,24 según los precios publicados de GPT-5.1
• Calidad de las respuestas — 3,74/5 frente a 3,25/5 del pipeline experto

Por qué hay menos alucinaciones

Los resultados intermedios en JSON estructurado reducen las alucinaciones en un 27% en comparación con los resúmenes en texto libre — así lo demostró el experimento de ablación controlado de los autores (prueba t pareada, p=0.107, n=12). Los datos intermedios con un esquema explícito no permiten que el modelo "invente" hechos entre pasos.

La optimización clave es el entity-aware batching: antes de la ramificación paralela, el sistema agrupa las filas por entidad lógica, lo que produce la reducción de hasta 47 veces en las llamadas al LLM. Esto también mejora la verificabilidad: la proporción de respuestas respaldadas por una cita de la transcripción alcanzó el 77% en BatchDAG, frente al 46–60% de los enfoques de referencia.

Cómo se desempeñó en las pruebas

En experimentos controlados sobre 12 consultas basadas en transcripciones de reuniones, BatchDAG obtuvo 3,74/5, superando al pipeline experto (3,25/5) y al agente ReAct (3,09/5, p<0.01). Los autores subrayan que el objetivo del sistema no es la precisión en sí misma, sino la universalidad.

«BatchDAG no se trata tanto de una ganancia de precisión sobre los

pipelines optimizados manualmente, sino de ser una capa de orquestación universal que reemplaza multitud de scripts escritos a mano por un solo sistema», señala el artículo publicado en arXiv.

En producción en Brevian.ai, el sistema funciona sobre GPT-5.1 y mantiene el costo por consulta en el rango de $0,02–$0,24.

Qué significa esto

BatchDAG muestra un camino práctico para el análisis de grandes volúmenes de datos corporativos: en lugar de decenas de pipelines escritos a mano, un solo sistema que traduce por sí mismo una consulta en lenguaje natural en un plan de ejecución. Para los equipos, esto significa respuestas más rápidas y verificables a escala de 50000+ documentos con tiempos de respuesta de menos de un minuto, sin necesidad de configuración manual para cada tipo de pregunta.

Preguntas frecuentes

¿Qué es BatchDAG?

BatchDAG es una capa de orquestación en la que un LLM construye un grafo tipado de operaciones (SQL, búsqueda semántica, transformaciones), mientras que un motor determinista lo ejecuta en paralelo. El sistema se presentó en un artículo en arXiv en julio de 2026.

¿Cuánto cuesta una consulta?

Según los autores, el costo de una sola consulta oscila entre $0,02 y $0,24 según los precios publicados de GPT-5.1, al procesar un corpus de 50000+ reuniones en menos de 60 segundos.

¿En qué se diferencia BatchDAG de un agente ReAct?

BatchDAG construye de antemano el grafo de ejecución completo y ejecuta las ramas independientes en paralelo, mientras que un agente ReAct actúa paso a paso. En las pruebas, esto produjo 3,74/5 frente a 3,09/5 de ReAct y elimina el retraso lineal de las llamadas secuenciales a herramientas.