MIT : des agents IA échangent leur KV-cache plutôt que du texte et vont 4 fois plus vite

Quand plusieurs agents IA se partagent une même tâche, ils doivent se transmettre le contexte. L'un termine son morceau, l'autre doit poursuivre. En général, le premier rédige un résumé textuel, que le second lit comme s'il le découvrait. Des chercheurs du MIT proposent une autre voie. Leur architecture SwaT (Swarm Telepathy) ne transmet pas un résumé d'un modèle à l'autre, mais le KV-cache, c'est-à-dire un contexte déjà traité. Par rapport aux résumés textuels, et lorsque SwaT est associé à la compression du cache, la qualité des réponses progresse en moyenne de 40% et la vitesse est multipliée par quatre.

Pourquoi le résumé coûte cher

Le schéma par résumé paraît simple, mais il se paie deux fois.

Premier coût : le calcul. L'agent émetteur dépense du temps et des tokens pour rédiger le résumé. L'agent récepteur retraite ensuite ce texte depuis le début, comme s'il le voyait pour la première fois.

Second coût : les pertes. Un résumé est toujours plus court que l'original. Un petit détail jugé sans importance par l'émetteur peut devenir utile au récepteur deux étapes plus tard. Il est alors impossible de le récupérer.

Dans les longues chaînes d'agents, ces effets s'accumulent. Plus il y a de transmissions, plus il y a de travail superflu et plus l'image de départ se déforme.

Ce que les agents se transmettent à la place du texte

Le KV-cache est la mémoire interne d'un modèle de langage : ce qu'il a déjà lu. Pendant qu'il traite un texte, le modèle conserve pour chaque token des données intermédiaires, les clés et les valeurs (key et value). Grâce à elles, il n'a pas besoin de recalculer tout le contexte pour générer chaque nouveau mot. En somme, c'est une « fiche de notes » que le modèle a rédigée pour lui-même.

L'idée de SwaT est de remettre directement cette fiche à l'agent suivant. Le récepteur n'a alors plus à relire le texte, et rien ne se perd à l'étape du résumé lisible par un humain.

Il y a toutefois une difficulté. Chaque modèle a son propre format interne : nombre de couches, dimensions, manière de représenter les tokens. Le cache d'un modèle ne peut donc pas être simplement injecté dans un autre. Selon les auteurs, SwaT y parvient même pour des modèles de familles différentes. C'est la partie la moins triviale du travail, et c'est elle qui rend la méthode applicable à des équipes d'agents hétérogènes.

S'y ajoute la compression du cache. Un cache complet occupe beaucoup de mémoire, on le compacte donc. Les résultats rapportés par les auteurs ont été obtenus précisément avec cette combinaison.

Ce que montrent les expériences

La comparaison portait sur la méthode de transmission de contexte la plus répandue, les résumés textuels. Résultats sur les benchmarks :

• Qualité des réponses : 40% de mieux en moyenne qu'avec la transmission de résumés textuels. • Vitesse : environ quatre fois supérieure. • Fonctionnement entre familles de modèles différentes : le récepteur n'a pas besoin d'avoir la même architecture que l'émetteur. • Transmission de la vision : l'information issue d'un VLM (un modèle qui traite des images avec du texte) a pu être transmise à un modèle textuel classique, qui ne voit pas lui-même les images.

Ce dernier point est sans doute le plus intéressant. Le modèle textuel n'a pas reçu une description de l'image, mais la représentation interne construite par le VLM. Cela ouvre la voie à la spécialisation : un modèle regarde les images, un autre raisonne à moindre coût sur le résultat, et aucun des deux ne dépense de ressources à traduire en mots ce qui a été vu.

Ce que cela change pour les ingénieurs

Pour les développeurs de systèmes agentiques, l'idée est simple : le résumé entre agents n'est pas la seule option, et souvent pas la meilleure. Si un ensemble d'agents repose sur des modèles dont les états internes sont accessibles, l'échange de cache peut réduire la latence et le coût de calcul.

Il y a aussi des réserves. Il s'agit d'un travail de recherche publié sur arXiv (2610.15095), pas d'un produit abouti. Les chiffres sont moyennés sur un ensemble de benchmarks, et sur votre tâche, le résultat peut différer. De plus, le KV-cache n'est généralement pas accessible via les API publiques des modèles fermés. Cette approche s'applique donc plus facilement avec des modèles ouverts que vous exécutez vous-même.

La direction n'en est pas moins claire. Si les agents s'échangent la mémoire du modèle plutôt que des mots, les systèmes multi-agents deviendront plus rapides et plus précis. Et une nouvelle norme pourrait émerger : des équipes de modèles différents, chacun avec sa spécialité, qui fonctionnent comme un tout.