BatchDAG : un planificateur LLM construit un graphe d'opérations et réduit les appels au modèle jusqu'à 47 fois

En juillet 2026, des chercheurs ont publié sur arXiv BatchDAG, un système dans lequel un modèle de langage construit le graphe d'exécution d'une requête sur des données d'entreprise, tandis qu'un moteur distinct l'exécute. Cette approche réduit le nombre d'appels au modèle jusqu'à 47 fois et, en production chez Brevian.ai, traite des requêtes portant sur plus de 50 000 réunions en moins de 60 secondes.

Comment fonctionne BatchDAG

BatchDAG procède en deux étapes. Un grand modèle de langage (LLM) génère d'abord un graphe orienté acyclique (DAG) typé d'opérations, puis un moteur déterministe l'exécute avec un parallélisme par vagues topologiques. Les nœuds du graphe sont des requêtes SQL, des recherches sémantiques, des transformations en mémoire, des branchements parallèles (fan-out) et des analyses unitaires. Les données circulent entre eux sous forme de JSON structuré.

Selon l'article publié sur arXiv, le planificateur de BatchDAG produit un graphe valide dans 98,8 % des cas, mesuré sur 300 appels de planification.

• Réduction du nombre d'appels au LLM : jusqu'à 47 fois grâce à l'entity-aware batching
• DAG valide : dans 98,8 % des 300 appels du planificateur
• Échelle : plus de 50 000 réunions traitées en moins de 60 secondes
• Coût d'une requête : 0,02 à 0,24 $ aux tarifs publiés de GPT-5.1
• Qualité des réponses : 3,74/5 contre 3,25/5 pour un pipeline d'experts

Pourquoi moins d'hallucinations

Les résultats intermédiaires en JSON structuré réduisent les hallucinations de 27 % par rapport à des résumés textuels, selon une expérience d'ablation contrôlée menée par les auteurs (test t apparié, p=0.107, n=12). Des données intermédiaires dotées d'un schéma explicite empêchent le modèle d'« extrapoler » des faits entre deux étapes.

L'optimisation clé est l'entity-aware batching : avant le branchement parallèle, le système regroupe les lignes par entité logique, ce qui produit la réduction des appels au LLM jusqu'à 47 fois. Cela améliore aussi la vérifiabilité : la part des réponses appuyées par une citation tirée de la transcription atteint 77 % pour BatchDAG, contre 46 à 60 % pour les approches de référence.

Résultats des tests

Dans des expériences contrôlées portant sur 12 requêtes sur des transcriptions de réunions, BatchDAG a obtenu 3,74/5, devant le pipeline d'experts (3,25/5) et l'agent ReAct (3,09/5, p<0.01). Les auteurs soulignent que l'objectif du système n'est pas la précision en soi, mais la polyvalence.

«

BatchDAG n'est pas tant un gain de précision par rapport à des pipelines optimisés à la main qu'une couche d'orchestration universelle qui remplace de nombreux scripts écrits à la main par un seul système », indique l'article sur arXiv.

En production chez Brevian.ai, le système fonctionne sur GPT-5.1 et maintient le coût d'une requête entre 0,02 et 0,24 $.

Ce que cela change

BatchDAG ouvre une voie pragmatique pour l'analytique sur de gros volumes de données d'entreprise : au lieu de dizaines de pipelines écrits à la main, un seul système traduit lui-même une requête en langage naturel en plan d'exécution. Pour les équipes, cela signifie des réponses plus rapides et plus vérifiables sur plus de 50 000 documents, avec un temps de réponse inférieur à une minute, sans réglage manuel pour chaque type de question.

Questions fréquentes

Qu'est-ce que BatchDAG ?

BatchDAG est une couche d'orchestration dans laquelle un LLM construit un graphe typé d'opérations (SQL, recherche sémantique, transformations) qu'un moteur déterministe exécute en parallèle. Le système a été présenté dans un article publié sur arXiv en juillet 2026.

Combien coûte une requête ?

Selon les auteurs, le coût d'une requête va de 0,02 à 0,24 $ aux tarifs publiés de GPT-5.1, pour un corpus de plus de 50 000 réunions traité en moins de 60 secondes.

En quoi BatchDAG diffère-t-il d'un agent ReAct ?

BatchDAG construit à l'avance le graphe d'exécution complet et lance les branches indépendantes en parallèle, alors qu'un agent ReAct procède étape par étape. Lors des tests, cela s'est traduit par 3,74/5 contre 3,09/5 pour ReAct, et cela supprime la latence linéaire induite par les appels d'outils séquentiels.