Anti-Persistence : des chercheurs proposent une mémoire pour agents LLM sans règles stockées

Les agents à base de LLM savent apprendre sans réentraînement : ils consignent leurs exécutions dans une mémoire externe et s'en servent pour les tâches suivantes. Mais plus cette mémoire accumule de règles toutes faites, de synthèses et de compétences, plus le risque grandit qu'une seule erreur se reproduise d'elle-même. Les auteurs d'un article récent publié sur Hugging Face Daily Papers ont baptisé cet effet error reproduction.

Pour y répondre, ils proposent un design de mémoire, Anti-Persistence : les trajectoires et les résultats s'accumulent, tandis que les recommandations propres à une tâche sont reconstruites à chaque fois, puis jetées une fois la tâche exécutée. Selon les auteurs, sur différents benchmarks et différents modèles de base (backbones), ce schéma obtient le taux de réussite cumulé le plus élevé sur les tâches held-out et le coût moyen le plus bas en appels LLM parmi les variantes de mémoire comparées.

Comment une erreur se reproduit elle-même

Lors de la conception de la mémoire d'un agent, le choix standard est le suivant : stocker uniquement les trajectoires brutes avec leurs résultats, ou y ajouter des abstractions déduites. Les abstractions sont pratiques, car l'agent n'a pas à extraire à chaque fois une stratégie de longs logs. Le prix à payer : une règle erronée entre dans le contexte via la recherche en mémoire et influence les décisions.

C'est là que les choses se gâtent. Les décisions prises sous l'influence d'une mauvaise règle produisent de nouvelles trajectoires. L'agent en déduit de nouvelles abstractions, qui répètent l'erreur initiale. Supprimer ou corriger la règle d'origine ne règle pas le problème : l'erreur est déjà inscrite dans les trajectoires accumulées et refera surface dans le cycle « abstraction — exécution — nouvelle abstraction ». Les auteurs décrivent cela comme un allongement de la durée de vie de l'erreur, au-delà de la simple réutilisation directe d'un savoir défectueux.

Ce que fait Anti-Persistence

L'idée consiste à séparer deux choses : l'accumulation de l'expérience et le stockage permanent des conclusions qu'on en tire. La mémoire conserve les trajectoires et les résultats. Le guide pour la tâche est synthétisé au moment de la requête. Un sélecteur adaptatif examine les résultats passés et décide s'il faut générer une indication et sous quelle forme. Une fois la tâche exécutée, l'indication est supprimée et ne peut pas être réutilisée comme objet stocké.

Les auteurs signalent eux-mêmes un risque résiduel : un retour indirect subsiste, car l'indication a influencé la trajectoire et cette trajectoire reste en mémoire. Le schéma affaiblit la boucle, mais ne l'annule pas.

Ce que l'abstract annonce :

• Stocké : les trajectoires et les résultats d'exécution ; les règles déduites, les synthèses et les compétences ne sont pas stockées.
• Les recommandations sont synthétisées à la demande, pour la tâche concernée.
• Le sélecteur adaptatif s'appuie sur les résultats passés et choisit si une indication est nécessaire, et de quel type.
• Résultat : le meilleur taux de réussite global sur les tâches held-out parmi les designs de mémoire comparés.
• Coût : le prix moyen le plus bas en appels LLM.
• La validation a été menée sur différents benchmarks et différents backbones.

L'abstract ne donne ni pourcentages précis ni noms de benchmarks ; l'ampleur du gain reste donc impossible à évaluer pour l'instant. Il faut consulter le texte complet de l'article et ses tableaux.

Ce qu'il faut vérifier dans votre agent

Si vous construisez un agent doté d'une mémoire auto-apprenante, l'article offre plusieurs repères pratiques.

Premièrement : séparez dans l'architecture le « journal d'expérience » et la « couche de conclusions ». Le journal peut grossir sans limite, alors que la couche de conclusions gagne à être traitée comme un cache que l'on peut réinitialiser, et non comme une source de vérité.

Deuxièmement : lorsque vous déboguez une dégradation de l'agent, ne vérifiez pas seulement les règles elles-mêmes. Si une règle corrigée n'a rien changé et que les erreurs reviennent, les coupables peuvent être les trajectoires produites sous son influence.

Troisièmement : surveillez le coût. On pourrait penser intuitivement que synthétiser des indications à la volée coûte plus cher que d'appliquer des règles toutes faites. Les auteurs affirment le contraire : dans leurs essais, ce design s'est révélé le moins cher en nombre d'appels LLM, probablement parce que le sélecteur évite les synthèses inutiles et que la mémoire ne gonfle pas d'abstractions. Cette hypothèse mérite d'être vérifiée sur votre propre charge.

Enfin, le résultat vaut pour des benchmarks précis. Avant de réécrire la mémoire en production, lancez sur vos tâches une comparaison A/B entre Anti-Persistence et le stockage de compétences, et observez comment évolue le taux de réussite sur les tâches held-out au fil du temps.