RSIHub réunit 4 méthodes d'évolution d'agents dans un seul framework : jusqu'à +13,5 points de pourcentage

La recherche sur les agents auto-améliorants s'enlise dans la routine : chaque équipe réécrit le même code d'infrastructure pour lancer les runs, évaluer les résultats et suivre les versions. L'équipe de Zimu Wang présente RSIHub, un framework open source qui mutualise cette infrastructure. Les auteurs y ont exécuté quatre méthodes d'évolution d'agents et les ont comparées sur deux benchmarks. Le gain maximal de pass@1 global atteint 13,5 points de pourcentage. La conclusion principale est plus modeste que le titre : il n'existe pas de méthode gagnante pour tous les cas.

L'évolution d'un agent comme assemblage de pièces interchangeables

L'évolution d'agents fonctionne ainsi : l'agent exécute des tâches, le système collecte des retours, puis s'en sert pour réécrire les prompts, les compétences, les outils ou le schéma d'orchestration. L'idée est simple, mais les implémentations sont généralement taillées pour un article précis et incompatibles entre elles.

Dans RSIHub, une méthode est décrite sous forme de « recette ». Elle s'assemble à partir d'opérateurs réutilisables et déclare explicitement quelles ressources peuvent être modifiées. La plateforme gère tout le reste : l'exécution, l'évaluation, la reprise après incident et la traçabilité de l'origine des candidats (lineage). Le chercheur n'écrit que la politique d'évolution, c'est-à-dire qu'il décide quoi faire muter et quels candidats conserver.

La décision d'architecture clé concerne l'évaluation. Elle est placée hors de la surface modifiable, et l'agent ne peut pas réécrire son propre examinateur. Pour des systèmes qui se corrigent eux-mêmes, c'est une protection contre la triche la plus évidente. Chaque résultat est rattaché à un candidat précis et à des conditions d'évaluation données, ce qui permet de remonter l'historique de n'importe quelle amélioration.

Quatre méthodes sur un même socle

Les auteurs ont implémenté ces méthodes sans modifier une seule ligne du cœur du framework. Toute la spécificité reste dans les recettes et les opérateurs. C'est le principal test pratique de composabilité.

• AHE — la première méthode d'évolution d'agents reproduite.
• Hyperagents — une approche des agents qui se modifient eux-mêmes.
• A-Evolve — une méthode d'évolution d'agents fondée sur le retour d'information.
• GEPA — une méthode d'optimisation par réflexion sur les résultats d'exécution.

Le banc d'essai se présentait ainsi :

• Harnais d'agents : MiniSWE et Codex.
• Benchmarks : Terminal Bench 2 (tâches en terminal) et τ³ Banking (scénarios bancaires).
• Conditions : configurations figées du modèle et de l'évaluateur, pour que l'écart ne dépende que de la méthode d'évolution.
• Métrique principale : pass@1 global.
• Meilleur résultat : +13,5 pts de pass@1.

Quand les chiffres contredisent les attentes

Le plus intéressant dans les résultats ne tient pas au record, mais à ses limites. Le classement des méthodes change d'une configuration à l'autre. Une méthode qui domine avec un harnais ou un benchmark peut être battue sur un autre. Le gain obtenu sur les tâches servant à l'optimisation ne se maintient pas toujours sur les tâches mises de côté. C'est du surapprentissage classique, sauf qu'il se produit désormais au niveau des prompts, des compétences et des outils, et non des poids.

Pour l'industrie, le signal est désagréable mais utile. Les publications sur l'auto-amélioration des agents comparent souvent leur méthode à celle des autres sur leur propre harnais et avec leurs propres hypothèses. Un protocole commun simplifie ces comparaisons. Il met aussi en évidence les cas où le gain ne tient qu'à une heureuse coïncidence de conditions.

Que faire de tout cela

Les équipes qui construisent des agents de code ou des assistants d'entreprise peuvent utiliser RSIHub comme banc d'essai. Les recettes des quatre méthodes sont déjà prêtes, et on peut les lancer sur ses propres tâches au lieu d'écrire l'infrastructure de zéro.

Les règles pratiques découlent des résultats eux-mêmes. Conserver un échantillon de validation mis de côté et évaluer dessus, pas seulement sur les tâches d'optimisation. Ne pas se fier au classement d'un seul benchmark. Garder le lineage de chaque candidat pour comprendre quelle modification a produit le gain. Le code est ouvert sur GitHub (simple-agent-lab/RSIHub), le projet a déjà réuni 186 étoiles, et les auteurs sollicitent des contributions sous forme de nouvelles méthodes d'évolution et de nouveaux benchmarks. Si de nouvelles recettes apparaissent dans l'écosystème, la communauté disposera d'un moyen commun de vérifier lesquelles fonctionnent au-delà d'un seul article.