Étude : un seul échec aléatoire pousse un agent IA à abandonner un outil fiable dans 11,6 % des cas

Un piège caché dans la mémoire des agents IA

Lorsqu'un agent IA tient lui-même le journal de son travail et s'écrit des « pense-bêtes » pour l'avenir, un danger insidieux apparaît : un échec purement fortuit peut durablement ruiner son rapport à une solution par ailleurs efficace. C'est précisément ce qu'ont vérifié les auteurs d'une étude publiée sur arXiv (2610.33029), dans une expérience rigoureusement préenregistrée — le protocole, le code et les données de test ont été gelés et horodatés (via Zenodo et un enregistrement sur la blockchain Bitcoin) avant même le lancement du test, afin d'exclure tout ajustement des résultats en fonction d'une conclusion souhaitée.

Comment l'expérience a été construite

Les chercheurs ont conçu 256 « mondes » fictifs — des tâches répétitives comme l'exportation de données ou l'envoi de factures — où l'agent dispose de deux outils interchangeables. L'un est fiable (succès dans 80 à 93 % des cas sur les quelques centaines d'exécutions précédentes), l'autre nettement moins bon (50 à 70 %). Dans chaque monde, un scénario était exécuté où l'agent choisissait correctement l'outil fiable — et le résultat de ce choix était attribué artificiellement : soit un succès, soit un échec passager aléatoire, sans lien avec la qualité de la décision.

Après une telle exécution, le modèle — selon la méthode ReasoningBank, largement utilisée dans les systèmes agentiques pour l'auto-apprentissage — rédigeait une « leçon » textuelle fondée sur ce résultat. Une nouvelle session « vierge » du même modèle, jouant le rôle de lecteur, était ensuite lancée : elle voyait le journal complet et fidèle de toutes les exécutions passées, connaissait le résultat de la dernière, et recevait l'une des plusieurs variantes de mémoire possibles — soit cette leçon même, soit une leçon rédigée après l'issue opposée, soit un fait neutre sans rapport avec la tâche, soit une instruction directe (et non justifiée) d'utiliser le moins bon outil. Au total, 90 084 réponses ont été recueillies pour les 11 modèles.

Ce que révèlent les chiffres

Résultat principal : lorsque la mémoire contenait une leçon écrite après un échec fortuit de l'outil fiable, le modèle lecteur choisissait le mauvais outil dans 11,6 % des cas — alors même que le journal montrait explicitement que cet outil était bien moins performant. À titre de comparaison, avec une indication neutre, l'erreur ne survenait que dans 0,4 % des cas — exactement le même taux qu'avec une leçon rédigée après un succès (et non un échec) du même outil fiable. Ce n'est donc pas l'échec en lui-même qui est en cause, mais bien la manière dont le modèle l'a formulé et « généralisé » dans sa leçon.

L'effet s'est révélé plus marqué dans les mondes où le journal n'indiquait pas explicitement que les échecs étaient des événements aléatoires et indépendants. Lorsque le texte précisait clairement que « les échecs sont aléatoires et non corrélés », le modèle tirait moins souvent une conclusion erronée. La situation inverse — un succès fortuit du mauvais outil — a produit un effet moins marqué, mais pas nul pour autant : statistiquement, les auteurs ne peuvent affirmer que « le préjudice est probablement faible », sans pouvoir prouver son absence totale.

Sur les 11 modèles, six ont clairement répercuté le hasard dans leur décision suivante : Gemini 3.8 Flash, Grok 4.7, Qwen 3.8 Max, DeepSeek V4 Pro, Mistral Large 4 et Kimi K3. Cinq modèles — les trois versions de Claude (Opus 5.5, Sonnet 5.5, Haiku 5.5), ainsi que GPT-6.1 Sol et GPT-6 Luna — ont affiché un résultat inférieur à 10 %, bien que l'effet ne disparaisse complètement même chez eux.

Peut-on corriger ce biais ?

Les auteurs ont testé deux correctifs simples apportés à l'instruction selon laquelle le modèle rédige ses leçons. L'ajout de trois phrases demandant d'« évaluer la qualité de la décision, et non seulement son résultat » a réduit la part de choix erronés après un échec aléatoire de 11,6 % à 7,5 %. Une instruction unique couvrant les deux issues (sans distinction entre « succès » et « échec »), assortie d'une option explicite « rien ne doit être changé », a produit un effet plus marqué — 3,1 %. Mais aucun des deux correctifs n'a ramené le taux à zéro pour l'ensemble des 11 modèles simultanément : il n'existe donc pas encore de solution totalement fiable.

Pour les équipes qui construisent des agents dotés d'une mémoire longue durée et d'un auto-apprentissage fondé sur leurs propres journaux, la conclusion est éminemment pratique : la transposition mécanique de « leçons » tirées d'issues isolées en règles de comportement constitue un point faible. En l'absence d'une distinction explicite entre la qualité d'une décision et le caractère aléatoire de son résultat, l'agent risque d'abandonner des outils et des processus par ailleurs efficaces à cause d'un simple coup de malchance — et de s'accrocher obstinément à cette croyance erronée, jusqu'à ce que quelqu'un réécrive sa mémoire manuellement.