SynAct apprend aux agents LLM à demander conseil là où cela change l'issue : +11,7 points de pourcentage

Les auteurs de SynAct proposent une nouvelle façon d'allouer le retour d'expert aux agents LLM : non plus par tâche, mais par décision individuelle au sein d'une trajectoire. Sur quatre benchmarks agentiques et quatre modèles issus de trois familles, la méthode améliore la précision sur le jeu de test réservé dans les 16 configurations évaluées, de 11,7 points de pourcentage en moyenne. Le même signal s'est aussi révélé utile pour le routage au moment de l'inférence : à budget comparable, SynAct a devancé les routeurs en cascade, les routeurs fondés sur l'incertitude et les routeurs « expert-juge » dans 15 cas sur 16.

Deux raisons pour lesquelles un agent se trompe

L'idée de départ est simple. Un agent qui exécute un workflow en plusieurs étapes échoue pour deux raisons distinctes. La première : les erreurs aléatoires, qu'une nouvelle tentative suffit à corriger. La seconde : les lacunes de connaissances, face auxquelles l'agent répétera la même action erronée, quel que soit le nombre d'essais. Ce second cas exige un expert, dont le temps est limité. La question, formulent les auteurs, n'est donc pas de savoir s'il faut demander un retour, mais où ce retour peut changer l'issue.

Selon les auteurs, les approches existantes butent sur l'un de deux écueils. Les unes se passent d'experts, et l'agent finit par renforcer ses propres erreurs. Les autres distribuent le retour au niveau de la tâche entière, sans déterminer quelles décisions ont réellement pesé sur le résultat.

Comment SynAct choisit où poser la question

Le framework considère l'attention de l'expert comme la contrainte principale et travaille au niveau des décisions individuelles. Il exécute la tâche plusieurs fois et, pour chaque décision, estime l'information mutuelle entre l'action choisie et l'issue finale. Si le choix de l'action n'influe pas sur l'issue, l'information est nulle et il n'y a rien à demander à cet endroit. Les décisions les mieux notées sont transmises à l'expert. Ses corrections sont ensuite converties en règles transférables, que l'agent applique en production sans plus avoir accès à l'expert.

La démarche comporte aussi un volet théorique. Avec k exécutions et au moins m observations par action, les décisions à issue constante donnent une information mutuelle nulle, tandis que celles qui séparent les issues donnent au moins H2(m/k) bit, où H2 désigne l'entropie binaire. Tout seuil t dans l'intervalle (0, H2(m/k)) distingue donc exactement ces deux classes. À titre d'illustration, pour k = 8 et m = 2, la borne inférieure vaut environ 0,81 bit (calcul de la rédaction ; l'abstract ne contient pas cet exemple).

C'est aussi ce qui explique pourquoi une sélection fondée sur le taux de succès est aveugle lorsque toutes les exécutions échouent. Le succès est alors constant, alors que les lancements ratés aboutissent à des résultats différents. L'information mutuelle, elle, perçoit ces différences.

Chiffres clés de l'étude :

• 4 benchmarks agentiques, 4 modèles issus de 3 familles, 16 configurations évaluées ;
• hausse de la précision sur le jeu de test réservé dans les 16 configurations, de +11,7 points de pourcentage en moyenne ;
• routage à l'inférence : victoire sur les routeurs à budget comparable dans 15 cas sur 16 ;
• une correction ciblée rapporte plus que sept réexécutions supplémentaires non ciblées.

À quoi cela peut servir

Le dernier point compte pour la pratique. La plupart des équipes qui déploient des agents combattent les erreurs par la force brute : plus de tentatives, plus d'échantillons, du vote. Les résultats de SynAct indiquent qu'en cas de lacunes de connaissances, c'est du calcul gaspillé, et qu'une correction ponctuelle est plus rentable.

Le scénario concret se présente ainsi. Il faut exécuter les tâches plusieurs fois, calculer pour chaque étape le lien entre l'action et l'issue, puis ne confier à un annotateur ou à un expert métier que le haut de la liste. Les corrections sont ensuite rassemblées en un jeu de règles pour l'agent. Les heures d'expertise sont dépensées sur un nombre limité de décisions, et le gain subsiste après le départ de l'expert.

Les limites existent aussi. Il s'agit d'un preprint sur arXiv dont les résultats n'ont pas encore été évalués par des pairs, et l'abstract ne donne aucune information sur le coût de l'annotation experte ni sur la capacité des règles à se transférer au-delà des quatre benchmarks. Mais le cadre lui-même, qui reconnaît l'attention de l'expert comme une ressource rare, semble une base raisonnable pour les systèmes agentiques en production.