Microsoft vide le chat des agents IA et gagne jusqu'à 66% à budget identique

Les agents IA autonomes trouvent de moins bonnes solutions à mesure que leur propre conversation s'accumule. C'est la conclusion de chercheurs de Microsoft. Ils ont baptisé cet effet « bassins d'idées » (idea basins) : des zones locales de l'espace des solutions dont un agent à long contexte ne peut plus s'extraire. Leur méthode, Fork-and-Flush, efface l'historique du chat mais conserve l'espace de travail. À budget de calcul identique, elle produit des résultats jusqu'à 66% meilleurs.

Comment un agent s'enlise dans un bassin

Un agent qui travaille longtemps sur une tâche remplit son contexte, pas à pas, d'hypothèses, d'essais ratés et de conclusions intermédiaires. Tout cela conditionne l'étape suivante. Le modèle continue de développer la direction déjà choisie, même si elle mène à une impasse, et chaque nouveau message renforce cette trajectoire. Les chercheurs décrivent ce phénomène comme l'entrée dans une zone locale dont il n'existe aucune issue dans le déroulement normal du travail.

Augmenter le budget ne résout pas le problème. Si l'agent tourne autour d'une seule idée, les tokens et les étapes supplémentaires ne font qu'approfondir le bassin. La manière de dépenser le calcul compte donc davantage que son volume.

Fork-and-Flush : ramifier et réinitialiser

La méthode repose sur deux opérations. Fork crée des embranchements du processus, tandis que Flush efface l'historique du chat. Détail essentiel : seule la conversation est supprimée, l'espace de travail reste intact. Tout ce que l'agent a déjà produit concrètement est conservé : fichiers, code, artefacts. Le modèle repart avec un contexte vierge et examine un environnement de travail déjà prêt, sans le poids de ses raisonnements précédents.

L'agent reprend ainsi la tâche sans les biais accumulés, mais sans perdre ses avancées tangibles. D'où l'efficacité : il n'est pas nécessaire de tout recommencer de zéro.

Paramètres clés selon l'étude :

• Problème : les « bassins d'idées » causés par la croissance du contexte du chat ;
• Ce qui est réinitialisé : l'historique des échanges de l'agent ;
• Ce qui est conservé : l'espace de travail ;
• Budget : le même volume de calcul que dans l'approche de référence ;
• Résultat : un gain allant jusqu'à 66%.

Les mots « jusqu'à 66% » désignent un maximum, pas une moyenne. La publication d'origine de The Decoder ne détaille ni les tâches, ni les modèles, ni les benchmarks : il est donc trop tôt pour juger du gain typique. Il faut consulter le travail de Microsoft lui-même.

Que tester dans vos propres agents

L'idée s'applique bien au-delà du laboratoire de recherche, en particulier pour le code, où les agents travaillent pendant des heures. Si les résultats se confirment en pratique, plusieurs pistes en découlent.

Premièrement : stocker l'état dans l'espace de travail, pas dans le dialogue. Tout ce qui compte (code, notes, résultats de vérification) doit se trouver dans des fichiers et dans le dépôt, d'où il pourra être relu après une réinitialisation du contexte.

Deuxièmement : ne pas étirer une même session indéfiniment. Si l'agent n'avance plus depuis longtemps, il coûte moins cher de vider le contexte et de lui offrir un regard neuf sur l'état actuel du projet que de remettre des tokens dans le même dialogue.

Troisièmement : lancer plusieurs branches à contexte vierge plutôt qu'une seule branche longue. Le budget de calcul reste le même, mais les chances de trouver un autre « bassin » augmentent.

La méthode remet en cause l'hypothèse habituelle selon laquelle le contexte accumulé aide toujours. Pour les systèmes agentiques, il faut sans doute le considérer comme une ressource aux rendements décroissants, à gérer aussi consciencieusement que les tokens et le temps d'exécution.