Des chercheurs de SAP apprennent aux agents IA à ne plus se contredire d'une exécution à l'autre

Si l'on demande plusieurs fois à un agent IA doté d'outils (recherche, bases de données, API) de résoudre la même tâche, il peut agir différemment à chaque fois : appeler des fonctions distinctes, donner des réponses contradictoires à l'utilisateur, ou atteindre le résultat par des chemins différents. Pour un chatbot grand public, c'est un désagrément mineur. Mais pour un agent qui manipule des données médicales ou écrit du code en plusieurs étapes, cette imprévisibilité devient un problème sérieux : une erreur à une étape s'accumule et fait dévier toute la solution.

L'auteur de l'étude, Harshavardhan Abhichandani de SAP, a remarqué que les méthodes d'évaluation existantes ne mesurent presque toujours qu'une seule chose : l'agent a-t-il résolu la tâche ou non. La stabilité du comportement — agit-il de la même manière d'une exécution à l'autre — n'était presque jamais interrogée. Même abaisser la température de génération à zéro (mode déterministe) ne suffit pas : les réponses aléatoires des outils, de l'environnement, voire de simples détails techniques comme la précision des calculs sur GPU, continuent de déstabiliser le comportement de l'agent sur la durée.

Comment fonctionne la méthode RSD

L'idée est inspirée de la théorie de l'apprentissage par renforcement, où existe la notion de bisimulation — une façon de comparer deux états d'un système selon la similarité de leur comportement futur, plutôt que selon leur apparence actuelle. L'auteur a adapté cette idée aux agents conversationnels :

• L'agent est lancé deux fois de suite à partir du même point de la conversation (même historique de messages et d'actions).
• À chaque étape, on compare non pas le texte mais le sens des deux réponses de l'agent, à l'aide d'un modèle d'analyse des contradictions logiques (NLI) — qui détermine si deux énoncés se contredisent, coïncident en sens, ou sont simplement sans rapport.
• La divergence à l'étape actuelle s'additionne (avec un poids décroissant) à la divergence attendue à toutes les étapes suivantes — on obtient une formule récursive, semblable au calcul de la récompense future cumulée en apprentissage par renforcement.
• Comme il est impossible de calculer exactement cette somme pour un modèle de langage (il fonctionne comme une boîte noire, et l'espace des dialogues possibles est immense), l'auteur entraîne un réseau de neurones distinct pour estimer cette divergence de façon approchée, selon la méthode d'apprentissage par différences temporelles (TD-learning), proche de l'apprentissage d'une fonction Q.

On obtient ainsi, pour chaque état de dialogue, un seul chiffre : une estimation de la « prévisibilité » du comportement futur de l'agent. Si l'agent choisit toujours le même outil avec les mêmes arguments (même en formulant différemment), le score tend vers zéro — il est parfaitement cohérent. S'il oscille entre différentes stratégies et se contredit, le score augmente.

Conséquence pratique essentielle : au moment de l'inférence, calculer ce score ne nécessite qu'un seul passage du modèle — aucune exécution répétée, comparaison ou appel NLI n'est nécessaire. Cela signifie que l'évaluation de la stabilité peut être intégrée au flux de travail de l'agent sans surcoût notable.

Ce que montrent les expériences

L'auteur a testé l'approche sur des modèles Qwen-2.5 de 3 et 7 milliards de paramètres, sur deux benchmarks pour agents équipés d'outils — τ-bench et ToolSandbox. Pour chaque tâche, 8 exécutions indépendantes ont été lancées (sur 8 exemples de test, soit 64 trajectoires par benchmark), afin de mesurer honnêtement la dispersion comportementale.

RSD a été utilisé comme signal de récompense supplémentaire lors du réglage des modèles par la méthode GRPO (Group Relative Policy Optimization) — le modèle était pénalisé en cas de forte divergence entre ses propres exécutions répétées. La comparaison a porté sur trois alternatives :

• le modèle Qwen de base, sans réglage ;
• un réglage par minimisation de l'entropie des tokens (méthode classique pour mesurer la « confiance » du modèle à partir de la distribution de probabilités) ;
• un réglage par entropie sémantique (regroupement du sens d'une seule réponse, sans tenir compte des étapes futures) ;
• un réglage supervisé classique (SFT) sur des données annotées.

Résultat : le réglage avec RSD a réduit le coefficient de variation (mesure de la dispersion des résultats entre exécutions) sur les deux benchmarks — τ-bench et ToolSandbox — avec des résultats comparables à ceux du SFT, mais sans nécessiter de données de référence annotées. Par ailleurs, le taux de réussite global des tâches (proportion de tâches accomplies et vitesse de progression) n'a pas diminué, et a même progressé dans certaines configurations.

Pourquoi c'est important

Pour les équipes qui construisent des agents basés sur des LLM destinés à la production — en particulier dans les domaines où le coût d'une erreur est élevé (finance, santé, automatisation des processus back-office) — il s'agit d'un outil de diagnostic opérationnel permettant d'évaluer la prévisibilité d'un agent avant même qu'il n'échoue face à un utilisateur réel. Limite principale : l'approche n'a été validée que sur des modèles relativement petits (3B et 7B) et deux benchmarks spécifiques, de sorte que sa capacité à s'étendre à des modèles plus grands et à des scénarios plus variés reste à confirmer. Le code est disponible en open source dans le dépôt RSD-agent-consistency sur GitHub.