Des chercheurs de l'UCAS apprennent aux LLM-agents faibles à comprendre les compétences : jusqu'à +14,1 points sans réentraînement

Les harnais agentiques, qui accumulent l'expérience des exécutions passées et réécrivent leurs propres « compétences », sont considérés comme un moyen peu coûteux d'améliorer les agents LLM sans réentraîner les poids. Des chercheurs de l'Université de l'Académie des sciences de Chine (Zhihao Yang, Haojin Wang, Juncheng Wu et coauteurs, dernier auteur Xianpei Han) ont vérifié si cette approche était aussi bénéfique pour tous les modèles. Il s'avère que non. Sur sept modèles et trois benchmarks, ils ont identifié 103 paires « tâche - compétence » où une même compétence fait gagner 31,1 points à GPT-5.6-luna et en fait perdre 8,8 à Gemma-4-E4B.

Une compétence que le modèle faible ne peut pas exécuter

L'explication intuitive serait que le modèle faible manque simplement de connaissances. Les données disent le contraire. Dans 86 % des exécutions ratées du modèle faible, l'exigence qu'il a enfreinte était déjà explicitement écrite dans la compétence. Le modèle l'a vue et n'a pas su l'appliquer. L'instruction est rédigée à un niveau que l'exécutant est incapable de réaliser : chaîne d'actions trop longue, hypothèses implicites, manipulation complexe des outils.

Cela change la formulation du problème. Si une compétence développée par un modèle puissant est transférée telle quelle vers un modèle faible, elle peut dégrader le résultat. Et si le modèle faible rédige lui-même sa compétence à partir de ses propres trajectoires, il tend à figer des formulations qu'il ne peut pas exécuter. Il faut adapter la compétence à l'exécutant : conserver le même sens, mais sous une forme que le modèle est capable d'appliquer.

La méta-compétence comme instruction de réécriture

Les auteurs ont classé les échecs des exécutants faibles en quatre catégories :

• l'exécution des outils (tool execution) ;
• la gestion du contexte (context management) ;
• le respect des instructions (instruction following) ;
• la vérification du résultat (verification).

À partir de ces diagnostics, ils ont constitué une méta-compétence fixe. Il s'agit d'un ensemble de principes selon lesquels la compétence est réécrite de manière à être plus facile à exécuter. Dans la première expérience, c'est Kimi-K3 qui a servi de réécrivain. Il a adapté les compétences sans accès aux traces d'exécution, uniquement à partir de la méta-compétence. Trois exécutants faibles ont surpassé les compétences d'origine de 5,1 à 14,1 points.

Cinq tours d'auto-évolution

La méta-compétence a ensuite été intégrée directement au cycle d'auto-évolution. Chaque modèle corrige, sur cinq tours, sa propre compétence à partir des trajectoires d'exécution et du retour du vérificateur. Sept exécutants ont été testés, de Gemma-4-E4B à Kimi-K2.5. Les scores finaux avec la méta-compétence se sont révélés supérieurs de 2,0 à 5,1 points à ceux obtenus dans le même cycle sans elle. L'amélioration est constante sur toute la gamme de modèles, et pas seulement à l'extrémité faible.

Les chiffres clés de l'étude :

• 7 modèles exécutants et 3 benchmarks ;
• 103 paires « tâche - compétence » à effet divergent ;
• +31,1 points pour GPT-5.6-luna et −8,8 pour Gemma-4-E4B sur ces paires ;
• 86 % des échecs du modèle faible alors que l'exigence était déjà inscrite dans la compétence ;
• 4 catégories d'échecs ayant servi à constituer la méta-compétence ;
• +5,1 à 14,1 points pour trois exécutants faibles après réécriture par Kimi-K3 ;
• 5 tours d'auto-évolution et un gain de +2,0 à 5,1 points grâce à la méta-compétence.

Ce qu'il faut changer dans les projets avec des agents

La conclusion pratique pour ceux qui construisent des systèmes agentiques : une bibliothèque de compétences ne peut pas être considérée comme universelle. Si un même ensemble d'instructions est distribué à des modèles de classes différentes, par exemple un modèle coûteux pour les tâches complexes et un modèle local compact pour les tâches courantes, chaque exécutant a besoin de sa propre version. La réécriture peut être confiée à un modèle externe puissant selon un ensemble de règles fixes, ce qui coûte moins cher que de faire tourner un cycle complet d'auto-évolution sur un modèle faible.

Deuxième point : lors de l'évaluation des harnais auto-apprenants, il convient de regarder non seulement le gain moyen, mais aussi les paires où la compétence nuit. Ce sont précisément celles-ci qui révèlent que l'instruction a dépassé les capacités de l'exécutant. Le code et la page du projet ont été publiés par les auteurs, ce qui permet de vérifier la méta-compétence sur ses propres tâches et ses propres modèles.