L'API Gemini sait désormais charger les schémas d'outils à la demande, et non plus dans chaque prompt
Quand un agent dispose de centaines d'outils, il faut envoyer le schéma de paramètres de chacun à chaque requête. Les tokens et la latence augmentent, et le modèle s'embrouille dans le choix de l'outil. Google a ajouté à l'API Gemini Interactions un mode Tool Retrieval : le modèle ne voit que le nom et la description de la fonction, et ne charge le schéma complet que lorsqu'il en a besoin. Pour les grandes bibliothèques d'outils, c'est un moyen de réduire les tokens d'entrée sans surcoût dédié. Reste à vérifier le gain sur votre propre trafic.
Traité par IA depuis Google AI Blog ; édité par Hamidun News
Les cinq premiers outils, l'agent les digère sans problème. À cinquante, les difficultés commencent : chaque fonction possède un schéma JSON de paramètres, et tout cela part vers le modèle à chaque requête. La facture de tokens d'entrée grimpe, les réponses arrivent plus lentement, et le modèle choisit plus souvent la mauvaise fonction, car les candidats sont trop nombreux. Google a tenté d'y remédier et lance en préversion Tool Retrieval dans l'API Gemini Interactions.
Comment ça marche
L'idée ressemble à une table des matières dans un livre. Le modèle voit toujours le nom et la courte description de chaque outil, il sait donc ce qui est disponible. En revanche, la partie lourde, c'est-à-dire le schéma de paramètres, n'entre pas dans le contexte tant qu'elle n'est pas nécessaire.
Pour activer ce mode, il faut ajouter l'outil tool_search à la requête et définir defer_loading: true sur les fonctions que l'on souhaite mettre en attente. Tout se passe ensuite au sein d'un seul appel d'API. Prenons un utilisateur qui écrit : « La commande A-1042 est arrivée endommagée, rembourse 40 dollars ».
Le modèle demande l'outil issue_refund par son nom, l'API injecte son schéma complet, puis le modèle construit l'appel de fonction avec le numéro de commande et le montant. Les trois étapes sont visibles dans interaction.steps : la recherche, le résultat de la recherche et le function_call lui-même.
C'est pratique pour le débogage : on voit tout de suite quels outils le modèle a envisagés, et si les noms et les descriptions l'ont mis en difficulté.
La suite est identique au function calling classique. Votre code exécute le remboursement et renvoie un function_result.
Il n'est pas nécessaire de construire ni d'héberger un index : la recherche s'exécute côté Gemini. Les outils les plus utilisés peuvent rester chargés d'emblée, et seule la « longue traîne » est à différer.
Cache, MCP et registre maison
Trois détails pratiques sont à connaître. Le premier concerne le cache de préfixe. Les schémas différés ne se trouvent pas au début du prompt, et ceux qui sont sélectionnés s'ajoutent plus tard au fil de la conversation. Le début mis en cache ne change donc pas d'un tour à l'autre, et le bénéfice du cache n'est pas perdu.
Le deuxième détail concerne MCP. Si l'on définit defer_loading: true sur un outil de type mcp_server, toutes les fonctions de ce serveur distant sont chargées à la demande. On peut ainsi connecter un gros serveur MCP sans énumérer ses outils à la main.
Le troisième détail s'adresse à ceux qui disposent déjà de leur propre registre d'outils, d'un index vectoriel ou d'un filtre de droits par utilisateur. Un mode client existe pour eux : tool_search est déclaré avec "execution": "client", puis votre application effectue la recherche et renvoie les schémas pertinents dans un function_result. Le prix de cette approche : un aller-retour réseau supplémentaire à chaque recherche. En contrepartie, il n'est pas nécessaire de déclarer les outils à l'avance. Lorsqu'un utilisateur connecte une nouvelle intégration en cours de route, ses fonctions peuvent être présentées au modèle en plein milieu de la conversation.
Prix, limites et marche à suivre
Tool Retrieval ne fait l'objet d'aucuns frais dédiés. Les tokens d'entrée et de sortie sont facturés au tarif habituel du modèle choisi. Mais il n'y a pas de repas gratuit, et Google le dit franchement. tool_search lui-même ajoute un petit bloc fixe de tokens d'entrée. Chaque schéma chargé est facturé comme des tokens d'entrée jusqu'à la fin de la conversation, exactement comme un outil déclaré à l'avance. L'économie apparaît lorsque les schémas que le modèle n'a jamais chargés sont plus nombreux que ceux qu'il a chargés. Selon Google, c'est la situation habituelle pour les grandes bibliothèques, mais l'annonce ne contient aucun chiffre précis d'économie. L'entreprise recommande de mesurer l'effet sur son propre trafic.
Quelques autres limites. La fonction est encore en préversion, ce qui signifie que l'interface peut changer. Elle ne fonctionne que dans l'API Interactions et uniquement avec les modèles Gemini 3.6 et ultérieurs, y compris tous les modèles Gemini 4. Si vous n'avez qu'une poignée d'outils, le gain sera dérisoire, et l'étape de recherche supplémentaire peut ajouter de la latence. Par ailleurs, le modèle choisit l'outil d'après son nom et sa description : des descriptions faibles ou trop proches entraîneront à tort le chargement de mauvaises fonctions.
Que faire en pratique ? Si vous construisez un agent avec des dizaines de fonctions ou connectez de gros serveurs MCP, une petite expérience s'impose. Laissez les outils les plus sollicités chargés d'emblée, différez les autres, puis comparez les tokens, la latence et la part de fonctions correctement choisies sur des conversations réelles. Profitez-en pour revoir les descriptions : ce sont désormais elles qui décident si le modèle trouvera le bon outil.
- 19 nov. 2026OpenCode lance son application mobile : une télécommande pour l'agent qui tourne sur votre ordinateur
- 19 nov. 2026Skyflow dans AgentCore Gateway : masquer les données personnelles aux outils des agents IA
- 19 nov. 2026Les chatbots cèdent après trois objections : leur précision sur le climat chute de 30 à 35 %
- 19 nov. 2026Anthropic entre en Bourse et lève 81,3 milliards de dollars : le record de 75 milliards de SpaceX est battu
Questions clés sur cet article
Comment ça marche?
L'idée ressemble à une table des matières dans un livre. Le modèle voit toujours le nom et la courte description de chaque outil, il sait donc ce qui est disponible. En revanche, la partie lourde, c'est-à-dire le schéma de paramètres, n'entre pas dans le contexte tant qu'elle n'est pas nécessaire. Pour activer ce mode, il faut ajouter l'outil tool_search à la requête et définir defer_loading: true sur les fonctions que l'on souhaite mettre en attente. Tout se passe ensuite au sein d'un seul appel d'API.
Que sait-on sur Cache, MCP et registre maison ?
Trois détails pratiques sont à connaître. Le premier concerne le cache de préfixe. Les schémas différés ne se trouvent pas au début du prompt, et ceux qui sont sélectionnés s'ajoutent plus tard au fil de la conversation. Le début mis en cache ne change donc pas d'un tour à l'autre, et le bénéfice du cache n'est pas perdu. Le deuxième détail concerne MCP. Si l'on définit defer_loading: true sur un outil de type mcp_server, toutes les fonctions de ce serveur distant sont chargées à la demande.
Que sait-on sur Prix, limites et marche à suivre ?
Tool Retrieval ne fait l'objet d'aucuns frais dédiés. Les tokens d'entrée et de sortie sont facturés au tarif habituel du modèle choisi. Mais il n'y a pas de repas gratuit, et Google le dit franchement. tool_search lui-même ajoute un petit bloc fixe de tokens d'entrée. Chaque schéma chargé est facturé comme des tokens d'entrée jusqu'à la fin de la conversation, exactement comme un outil déclaré à l'avance.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.