Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiNeurohive→ original

L'API Gemini réduit presque par 7 les tokens d'un agent à 200 outils, selon un calcul de Google

Un agent connecté à des serveurs MCP envoie au modèle la description de tous ses outils à chaque requête, même quand une seule fonction est nécessaire. Google a ajouté Tool Retrieval à l'API Gemini : le modèle voit le nom et une courte description de chaque outil, et ne charge le schéma des paramètres qu'à la demande. D'après le calcul de Google, une conversation avec 200 outils occupe 23 650 tokens en entrée au lieu de 164 000, soit presque 7 fois moins. Il s'agit d'un calcul, pas d'une mesure, et ce mode n'est pas rentable pour les petits ensembles d'outils.

Traité par IA depuis Neurohive ; édité par Hamidun News
L'API Gemini réduit presque par 7 les tokens d'un agent à 200 outils, selon un calcul de Google
Source : Neurohive. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireNeurohive ↗
Rédacteur en chef
Chiffre clé #1Environ 26 tokens par outil sont consommés par le nom et la description d'une fonction différée
Requête d'entrée avec 200 outils$0,035 au lieu de $0,246, au tarif de $1,50 par million
Chiffre clé #3Avec 10 outils et un contexte de 30 000 tokens, on consomme 36,5% de tokens en plus

Vous avez connecté quelques serveurs MCP à votre agent, ajouté une dizaine de fonctions maison, et la facture de tokens a grimpé, alors que les utilisateurs posent les mêmes questions. La raison : les descriptions de tous les outils, schémas de paramètres compris, partent vers le modèle à chaque requête, même si une seule fonction sur deux cents sert dans la conversation. Google s'attaque au problème dans l'API Gemini avec Tool Retrieval : le modèle garde sous la main la liste complète, mais ne reçoit la description détaillée d'une fonction que lorsqu'il en a besoin.

D'après le calcul de Google, une conversation avec une bibliothèque de 200 outils occupe environ 23 650 tokens en entrée au lieu de 164 000, soit presque 7 fois moins, ou environ 86%. À noter : il s'agit d'un exemple calculé, et non d'une mesure. La fonction n'est pour l'instant disponible qu'en préversion dans l'Interactions API.

Comment ça fonctionne

Le développeur marque les fonctions rarement utilisées avec un indicateur spécial de chargement différé. Le modèle continue de voir le nom et une courte description de chacune d'elles. D'après les premières mesures de Google, cela représente environ 26 tokens par outil. En revanche, il ne reçoit pas le schéma des paramètres, la partie la plus lourde.

Quand une fonction devient nécessaire, le modèle la demande par son nom. L'API charge le schéma et le modèle effectue l'appel, le tout au sein d'une seule requête. C'est comparable à une bibliothèque avec son catalogue : on ne pose pas tous les livres sur la table du lecteur, il consulte les fiches et demande celui qu'il lui faut.

Le même indicateur peut s'appliquer à un serveur MCP distant dans son ensemble : tous ses outils sont alors chargés à la demande. Les schémas chargés sont ajoutés au fil de la conversation, et non au début du prompt. Ce début ne change pas : il continue donc d'être servi depuis le cache.

Il existe aussi un mode de recherche côté application. Il s'adresse aux entreprises qui disposent de leur propre registre d'outils ou qui vérifient les droits des utilisateurs. Chaque recherche y ajoute un échange de requêtes supplémentaire, mais il n'est pas nécessaire de déclarer les outils à l'avance : on peut en ajouter en pleine conversation, par exemple quand l'utilisateur connecte une nouvelle intégration.

Que disent les chiffres et les solutions concurrentes ?

D'après le calcul de la rédaction, au tarif de $1,50 par million de tokens en entrée, une conversation avec 200 outils coûte $0,246 en chargement classique et environ $0,035 avec Tool Retrieval. Sur 10 000 conversations, cela représente environ $2100 d'économies. Le calcul ne tient compte ni des tokens de sortie ni du cache. L'entrée mise en cache coûte $0,075 par million, soit 20 fois moins cher que l'entrée standard.

Les solutions concurrentes annoncent d'autres chiffres. Pour son Tool search tool, Anthropic a évoqué une réduction de la consommation de tokens de 85%. OpenAI a parlé de 47% à précision égale sur le benchmark MCP Atlas. Les conditions de mesure diffèrent d'une entreprise à l'autre : ces pourcentages ne sont donc pas directement comparables.

L'interface de Gemini reprend presque celle d'OpenAI : même type d'outil. D'après la rédaction, cela facilitera le portage des agents d'une plateforme à l'autre. Anthropic a sorti sa solution presque un an avant Google, et OpenAI a ajouté tool search à l'API Responses avec GPT-5.4. Chez Anthropic, le modèle ne voit d'abord que l'outil de recherche lui-même, cherche par expression régulière ou BM25 et obtient par défaut jusqu'à 5 résultats. Une seule requête peut y comporter jusqu'à 10 000 outils. Chez Gemini, le modèle voit d'emblée tout le catalogue de noms et de descriptions. Pour 1000 outils, cela représente environ 26 000 tokens dans chaque requête (estimation de la rédaction).

Quand ce n'est pas rentable

La fonction n'est pas facturée à part : les tokens sont payés aux tarifs habituels. Mais chaque recherche côté serveur implique un passage supplémentaire du modèle sur tout le contexte. Cela revient presque à payer de nouveau le prompt, hors partie mise en cache.

Google présente aussi un contre-exemple : 10 outils et un contexte de 30 000 tokens. Avec le chargement différé, on arrive à 92 830 tokens au lieu de 68 000, soit 36,5% de plus. Google conseille de conserver le chargement classique pour les bibliothèques d'environ 20 outils stables au plus. Anthropic recommande d'activer la recherche dès 10 outils.

Limites de la préversion :

  • Tool Retrieval ne fonctionne pas dans la méthode classique generateContent ;
  • l'interface peut changer avant la disponibilité générale ;
  • un schéma chargé ne peut pas être déchargé avant la fin de la conversation.

Google ne fournit pas de mesures de la précision du choix des outils, alors qu'il cite sa baisse parmi les raisons du lancement. Anthropic, elle, en a : selon ses mesures internes, la précision de Claude Opus 4.5 sur les tâches MCP est passée de 79,5% à 88,1%. Ce sont des chiffres internes à l'entreprise, et non une vérification indépendante.

La conclusion pratique est simple. Si votre agent dispose de dizaines d'outils et de plusieurs serveurs MCP dont seule une petite partie sert au cours d'une conversation, il vaut la peine de tester le chargement différé sur vos propres logs : comptez les tokens avant et après, puis comparez la précision du choix des fonctions. Si l'ensemble d'outils est petit et stable, le chargement classique avec cache sera très probablement moins cher et plus simple.

Dossier

Questions clés sur cet article

Que disent les chiffres et les solutions concurrentes ?

D'après le calcul de la rédaction, au tarif de $1,50 par million de tokens en entrée, une conversation avec 200 outils coûte $0,246 en chargement classique et environ $0,035 avec Tool Retrieval. Sur 10 000 conversations, cela représente environ $2100 d'économies. Le calcul ne tient compte ni des tokens de sortie ni du cache. L'entrée mise en cache coûte $0,075 par million, soit 20 fois moins cher que l'entrée standard. Les solutions concurrentes annoncent d'autres chiffres.

Comment ça fonctionne?

Le développeur marque les fonctions rarement utilisées avec un indicateur spécial de chargement différé. Le modèle continue de voir le nom et une courte description de chacune d'elles. D'après les premières mesures de Google, cela représente environ 26 tokens par outil. En revanche, il ne reçoit pas le schéma des paramètres, la partie la plus lourde. Quand une fonction devient nécessaire, le modèle la demande par son nom. L'API charge le schéma et le modèle effectue l'appel, le tout au sein d'une seule requête.

Quand ce n'est pas rentable?

La fonction n'est pas facturée à part : les tokens sont payés aux tarifs habituels. Mais chaque recherche côté serveur implique un passage supplémentaire du modèle sur tout le contexte. Cela revient presque à payer de nouveau le prompt, hors partie mise en cache. Google présente aussi un contre-exemple : 10 outils et un contexte de 30 000 tokens. Avec le chargement différé, on arrive à 92 830 tokens au lieu de 68 000, soit 36,5% de plus.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
Qu'en pensez-vous ?
Chargement des commentaires…