Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiHabr AI→ original

Deux outils au lieu de 2500 méthodes d'API : comment éviter qu'un agent ne gaspille 1,17 million de tokens de contexte

Le MCP permet de connecter des services à un agent d'IA, mais les descriptions de centaines de méthodes saturent le contexte, c'est-à-dire la mémoire de travail du modèle. Chez Cloudflare, 2500 méthodes d'API représenteraient environ 1,17 million de tokens (unités de texte). Code Mode ne laisse à l'agent que deux outils : search() recherche une méthode, et execute() lance une chaîne d'appels écrite en code. Pour que le modèle pense à chercher, l'auteur ajoute des SKILL, de courtes instructions qui citent les noms des méthodes utiles.

Traité par IA depuis Habr AI ; édité par Hamidun News
Deux outils au lieu de 2500 méthodes d'API : comment éviter qu'un agent ne gaspille 1,17 million de tokens de contexte
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Sans Code Modeles 2500 méthodes de Cloudflare représentent environ 1,17 million de tokens
Chiffre clé #2Un seul appel à execute() enchaîne plusieurs étapes sans revenir au modèle
L'auteur n'a pas mesuré les économiesil faut des tests sur ses propres tâches

Imaginez que vous engagiez un assistant et que, avant chaque tâche, vous lui lisiez les instructions de chacun des 2500 boutons d'une télécommande. Le travail ne commencerait jamais : il finirait par s'épuiser à écouter. C'est à peu près ce que subissent les agents d'IA lorsqu'on leur connecte de nombreux services via MCP (Model Context Protocol, un standard par lequel l'agent appelle des outils externes).

La description de chaque méthode entre dans le contexte, c'est-à-dire dans la mémoire de travail du modèle, et se mesure en tokens : ce sont des fragments de texte qui sont facturés et qui limitent la taille d'une requête. Le développeur auteur de l'analyse publiée sur Habr s'est heurté à ce problème dans deux cas : la configuration de son agent personnel Nanabot et l'écriture d'un serveur MCP pour gérer les produits de son entreprise. Sa recette combine Code Mode MCP et des SKILL.

Le problème des centaines d'outils

Dans un schéma MCP classique, le client transmet au modèle les descriptions de tous les outils connectés. Cloudflare compte plus de 2500 méthodes d'API et estime que leur description complète sous forme d'outils MCP occuperait environ 1,17 million de tokens. Il s'agit d'une estimation de Cloudflare, non d'une mesure faite par l'auteur de l'article.

L'entreprise a proposé Code Mode MCP. Au lieu de milliers d'outils, l'agent n'en reçoit que deux. Le premier, search(), recherche les méthodes voulues et renvoie leurs signatures (noms, paramètres et champs obligatoires) selon la requête. Le second, execute(), exécute du code JavaScript qui appelle ces méthodes. Un seul appel à execute() peut enchaîner plusieurs opérations et restituer le résultat final, sans qu'il soit nécessaire de solliciter le modèle de langage après chaque étape.

L'article donne un exemple simple : on demande à l'agent « ouvre example.com et fais une capture d'écran ». Via search(), il trouve navigate_page et take_screenshot, puis exécute les deux en un seul script. Aucune nouvelle requête au modèle n'intervient entre les deux étapes. Précision importante : l'article présente la recherche dans un tableau d'outils comme une option parmi d'autres pour un agrégateur. Cloudflare, par exemple, recherche les opérations dans une spécification OpenAPI.

Le dispositif a aussi ses faiblesses. L'économie n'est pas garantie : les recherches répétées et le chargement des signatures consomment eux aussi des tokens. Le gain dépend de la taille du catalogue, de la fréquence des recherches et du nombre d'appels. Pour une estimation fiable, il faut mesurer sur des tâches concrètes. De plus, le modèle ne trouve parfois pas la méthode voulue, et parfois ne songe même pas à la chercher.

Comment les SKILL comblent la lacune

Cloudflare recommande d'utiliser les SKILL avec MCP : un SKILL explique à l'agent quand et quelles capacités employer. L'auteur a suivi la même voie. Il a regroupé plusieurs serveurs MCP derrière Code Mode, de sorte que le modèle ne voit qu'un seul serveur doté d'une fonction de recherche et d'exécution. Dans le SKILL, il a inscrit une liste succincte des serveurs et des méthodes utiles, sans leurs descriptions complètes.

Exemple concret : le SKILL bugfix-process. L'utilisateur écrit : « Corrige le bug 731 dans le dépôt two-server, sur la branche courante, lance la compilation two_jar_java17 ». L'agent procède alors ainsi :

  • il voit dans son contexte permanent la brève description du SKILL et comprend qu'elle s'applique ;
  • il lit le SKILL et prend connaissance de l'ordre des étapes ainsi que des serveurs ticket_mcp, samba_mcp, filesystem_mcp, git_mcp, codex_mcp et jenkins_mcp ;
  • via search(), il demande les signatures des seules méthodes nécessaires, par exemple get_ticket ou download_attachment ;
  • via execute(), il rassemble le ticket, les commentaires, les pièces jointes et les journaux depuis Samba dans le dossier tickets/731/ ;
  • il ne fait un commit que de ce dossier, afin que les documents ne se mêlent pas à la future correction ;
  • il lance Codex via start_task, attend le résultat, vérifie le diff et envoie la correction dans le dépôt ;
  • il lance Jenkins, passe le ticket au statut Resolve ou In Progress, puis rédige un rapport dans result.fixed.md ou result.in-progress.md.

Il y a encore une économie à la clé. Les gros journaux et les pièces jointes restent sur le disque et ne transitent pas par le contexte de l'agent principal. Codex les lit au chemin indiqué et n'en retient que l'essentiel. L'agent principal joue le rôle d'organisateur et délègue la programmation proprement dite.

Trois couches de contexte et limites

L'architecture finale comporte trois couches. Le contexte permanent contient les brèves descriptions des SKILL et les deux outils de Code Mode. Le SKILL est chargé lorsqu'il correspond à la tâche et contient l'algorithme ainsi que les noms des méthodes. Code Mode récupère à la demande les signatures complètes et exécute les appels. Auparavant, le choix se réduisait à deux mauvaises options : tout charger et consommer des tokens, ou tout cacher et espérer que le modèle devine. Il existe désormais une troisième voie.

Les limites demeurent. Le modèle peut toujours ne pas choisir le bon SKILL, se tromper dans la recherche d'une méthode ou écrire un JavaScript incorrect. Toutes les chaînes ne peuvent pas être condensées en un seul appel : il arrive que l'agent doive analyser un résultat intermédiaire et prendre une nouvelle décision. L'auteur ne publie pas de chiffres d'économie sur ses propres scénarios et se contente d'évaluer le gain comme « probable ».

Conclusion pratique pour les équipes : si vous disposez de nombreux outils internes (tickets, CI, git, stockage de fichiers), ne les décrivez pas tous dans le prompt système. Décrivez plutôt les processus dans de courts SKILL, et donnez à l'agent une recherche par signatures ainsi que l'exécution de scripts. Avant de déployer, mesurez la consommation de tokens sur des tâches réelles, sans quoi le gain restera une simple hypothèse.

Dossier

Questions clés sur cet article

Que sait-on sur Le problème des centaines d'outils ?

Dans un schéma MCP classique, le client transmet au modèle les descriptions de tous les outils connectés. Cloudflare compte plus de 2500 méthodes d'API et estime que leur description complète sous forme d'outils MCP occuperait environ 1,17 million de tokens. Il s'agit d'une estimation de Cloudflare, non d'une mesure faite par l'auteur de l'article. L'entreprise a proposé Code Mode MCP. Au lieu de milliers d'outils, l'agent n'en reçoit que deux.

Comment les SKILL comblent la lacune?

Cloudflare recommande d'utiliser les SKILL avec MCP : un SKILL explique à l'agent quand et quelles capacités employer. L'auteur a suivi la même voie. Il a regroupé plusieurs serveurs MCP derrière Code Mode, de sorte que le modèle ne voit qu'un seul serveur doté d'une fonction de recherche et d'exécution. Dans le SKILL, il a inscrit une liste succincte des serveurs et des méthodes utiles, sans leurs descriptions complètes. Exemple concret : le SKILL bugfix-process.

Que sait-on sur Trois couches de contexte et limites ?

L'architecture finale comporte trois couches. Le contexte permanent contient les brèves descriptions des SKILL et les deux outils de Code Mode. Le SKILL est chargé lorsqu'il correspond à la tâche et contient l'algorithme ainsi que les noms des méthodes. Code Mode récupère à la demande les signatures complètes et exécute les appels. Auparavant, le choix se réduisait à deux mauvaises options : tout charger et consommer des tokens, ou tout cacher et espérer que le modèle devine.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
Qu'en pensez-vous ?
Chargement des commentaires…