RouteWeaver apprend à un routeur LLM à choisir son mode d'exécution et atteint 61,4% de précision

Une équipe de chercheurs propose RouteWeaver, un framework unique de routage entre modèles de langage. Il ne choisit pas seulement quel modèle appeler, mais aussi comment structurer le processus : par une seule requête, par une série de tours ou via une boucle agentique. Sur des benchmarks couvrant cinq domaines, le système affiche une précision moyenne de 61,4%. C'est 11,03% de plus en relatif que la meilleure des méthodes comparées, et RouteWeaver devance toutes les baselines dans chacun des cinq domaines. Si l'on recalcule, le meilleur concurrent se situe autour de 55,3%.

Le problème : un routeur enfermé dans un seul schéma

Le routage de LLM est devenu un outil de production : on répartit les requêtes entre des modèles hétérogènes pour éviter de mobiliser un modèle coûteux sur des tâches simples et de confier les tâches complexes à un modèle faible. Mais presque toutes les approches existantes reposent sur un paradigme d'exécution figé. Un routeur fonctionne en mode single-round : il choisit un modèle et obtient une réponse. Un autre fait du multi-round, où les modèles sont appelés l'un après l'autre et affinent mutuellement leurs réponses. Un troisième est agentique, avec planification et outils.

Cette rigidité crée un déséquilibre évident. Une question factuelle n'exige pas de dialogue en plusieurs étapes entre modèles, tandis qu'un problème mathématique complexe peut ne pas être résolu en un seul appel. Quand la manière d'organiser les appels est inscrite dans l'architecture, le routeur ne peut pas s'adapter aux besoins de la requête.

RouteWeaver lève cette limite. Les trois modes coexistent au sein d'une seule politique LLM, qui apprend conjointement deux choses : quel mode appliquer et comment choisir les modèles à l'intérieur de ce mode.

COMET-GRPO : des signaux séparés pour deux niveaux de décision

L'entraînement conjoint de deux niveaux se heurte à un problème d'attribution du crédit. Si toute la trajectoire reçoit un seul signal d'avantage commun, on ne sait pas ce qui a fonctionné : le bon choix du mode ou la bonne exécution à l'intérieur. Les auteurs résolvent ce problème avec l'algorithme COMET-GRPO (COordinated Mode-Execution Training). Il décompose l'avantage au niveau de la trajectoire en deux signaux distincts : l'un pour le choix du mode, l'autre pour l'exécution au sein du mode. Chaque décision reçoit ainsi un retour qui lui est propre et plus précis.

Second élément : la progressive exploration. L'entraînement commence avec des modes assignés de l'extérieur, puis bascule peu à peu vers un choix autonome. La logique est simple : le routeur apprend d'abord à exécuter chaque mode, et ne décide qu'ensuite quand appliquer lequel.

Les ablations montrent que sans cette étape, tout s'effondre. Si l'on retire la progressive exploration, la politique s'effondre entièrement vers le single-round : le routeur choisit le chemin le plus simple et cesse d'utiliser les autres. Les deux composants comptent, COMET-GRPO comme le schéma progressif.

Ce que l'on sait de l'évaluation

• Framework : une politique LLM unique qui réunit le routage single-round, multi-round et agentique.
• Algorithme d'entraînement : COMET-GRPO, avec des signaux d'avantage séparés pour le choix du mode et pour l'exécution.
• Schéma d'entraînement : progressive exploration, avec passage de modes assignés à un choix autonome.
• Domaines d'évaluation : mathématiques, codage, connaissances, raisonnement logique, rappel factuel.
• Précision moyenne : 61,4%.
• Gain relatif sur la meilleure baseline : 11,03%.
• Résultats par domaine : meilleur que toutes les méthodes comparées dans chacun des cinq.

Ce que cela change pour ceux qui construisent du routage

Pour les équipes qui assemblent des systèmes multimodèles, le signal principal est le suivant : le choix du mode d'exécution doit être considéré comme une part du problème de routage. Si vous disposez aujourd'hui d'un routeur distinct pour les modèles et d'une logique séparée pour décider quand activer des chaînes ou des agents, RouteWeaver propose de les réunir sous une seule politique entraînable.

Un second point pratique concerne l'entraînement lui-même. L'effondrement vers le single-round sans progressive exploration est un piège classique des approches RL : la politique trouve le chemin le moins coûteux et le plus stable, puis s'y enferme. Apprendre au routeur d'abord à exécuter les modes, puis à choisir entre eux, est une technique transposable à d'autres décisions hiérarchiques dans les systèmes agentiques.

Il reste à établir comment un tel routeur se comportera sur des tâches hors des cinq domaines testés, et comment prendre en compte le coût et la latence des modes multi-tours et agentiques. La direction, elle, est claire : le routage passe du choix d'un modèle au choix de toute la stratégie pour l'exploiter.