Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAPI / Producto · Listo para usarNeurohive→ original

Gemini API reduce casi 7 veces los tokens de un agente con 200 herramientas, según el cálculo de Google

Un agente con servidores MCP envía al modelo las descripciones de todas las herramientas en cada solicitud, aunque solo necesite una función. Google ha añadido a Gemini API Tool Retrieval: el modelo ve el nombre y una descripción breve, y carga el esquema de parámetros bajo demanda. Según el cálculo de Google, una conversación con 200 herramientas consume 23 650 tokens de entrada en lugar de 164 000, casi 7 veces menos. Es un cálculo, no una medición, y con conjuntos pequeños este modo no compensa.

Procesado por IA desde Neurohive; editado por Hamidun News
Gemini API reduce casi 7 veces los tokens de un agente con 200 herramientas, según el cálculo de Google
Fuente: Neurohive. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalNeurohive ↗
Editor jefe
Dato clave #1Cada herramienta diferida gasta unos 26 tokens en el nombre y la descripción
Solicitud de entrada con 200 herramientas$0,035 en lugar de $0,246, con un precio de $1,50 por millón
Dato clave #3Con 10 herramientas y un contexto de 30 000 tokens, el consumo sube un 36,5%

Conectas un par de servidores MCP a un agente, añades una decena de funciones propias y la factura de tokens se dispara, aunque los usuarios hagan las mismas preguntas. La causa es que las descripciones de todas las herramientas, con sus esquemas de parámetros, viajan al modelo en cada solicitud, aunque en una conversación se necesite una sola función de doscientas. Google aborda el problema en Gemini API con Tool Retrieval: el modelo conserva a mano la lista completa, pero recibe la descripción completa de una función solo cuando la necesita.

Según el cálculo de Google, una conversación con una biblioteca de 200 herramientas ocupa unos 23 650 tokens de entrada en lugar de 164 000, es decir, casi 7 veces menos, o aproximadamente un 86%. Conviene subrayarlo: es un ejemplo calculado, no una medición. De momento la función está disponible en modo preview en Interactions API.

Cómo funciona

El desarrollador marca las funciones que se usan poco con una opción específica de carga diferida. El modelo sigue viendo el nombre y la descripción breve de cada una. Según las primeras mediciones de Google, esto supone unos 26 tokens por herramienta. Lo que no recibe es el esquema de parámetros, la parte más pesada.

Cuando necesita una función, el modelo la solicita por su nombre. La API carga el esquema y el modelo realiza la llamada, todo dentro de una misma solicitud. Es como una biblioteca con catálogo: al lector no se le ponen todos los libros sobre la mesa, consulta las fichas y pide el que busca.

La misma opción puede aplicarse a un servidor MCP remoto completo, de modo que todas sus herramientas se carguen bajo demanda. Los esquemas cargados se añaden a medida que avanza la conversación, no al principio del prompt. El inicio no cambia, así que sigue tomándose de la caché.

También hay un modo de búsqueda del lado de la aplicación. Está pensado para empresas con su propio registro de herramientas o con verificación de permisos de usuario. Cada búsqueda añade ahí un intercambio de solicitudes extra, pero no hace falta declarar las herramientas de antemano: se pueden añadir en mitad de la conversación, por ejemplo cuando el usuario conecta una nueva integración.

Qué dicen las cifras y las alternativas

Según el cálculo de la redacción, con un precio de $1,50 por millón de tokens de entrada, una conversación con 200 herramientas cuesta $0,246 con carga normal y unos $0,035 con Tool Retrieval. En 10 000 conversaciones, el ahorro ronda los $2100. El cálculo no incluye los tokens de salida ni la caché. La entrada en caché cuesta $0,075 por millón, es decir, 20 veces menos que la normal.

Las alternativas anuncian otras cifras. Anthropic habló de una reducción del 85% en el consumo de tokens para su Tool search tool. OpenAI mencionó un 47% con la misma precisión en el benchmark MCP Atlas. Las condiciones de medición de cada compañía son distintas, así que estos porcentajes no pueden compararse directamente.

La interfaz de Gemini casi replica la de OpenAI: usa el mismo tipo de herramienta. Según la valoración de la redacción, esto facilitará trasladar agentes de una plataforma a otra. Anthropic lanzó su solución casi un año antes que Google, y OpenAI añadió tool search a Responses API junto con GPT-5.4. En Anthropic, el modelo ve al principio solo la propia herramienta de búsqueda, busca mediante expresión regular o BM25 y por defecto obtiene hasta 5 resultados. En una sola solicitud puede manejar hasta 10 000 herramientas. En Gemini, el modelo ve de entrada todo el catálogo de nombres y descripciones. Con 1000 herramientas, eso supone unos 26 000 tokens en cada solicitud (estimación de la redacción).

Cuándo no compensa

La función no tiene un cargo aparte: los tokens se pagan a las tarifas habituales. Pero cada búsqueda en el servidor implica una pasada más del modelo con todo el contexto. Es casi como pagar de nuevo el prompt, descontada la parte en caché.

Google ofrece también un ejemplo en sentido contrario: 10 herramientas y un contexto de 30 000 tokens. Con carga diferida salen 92 830 tokens en lugar de 68 000, un 36,5% más. Google recomienda mantener la carga normal para bibliotecas de hasta unas 20 herramientas estables. Anthropic aconseja activar la búsqueda ya a partir de 10.

Limitaciones del preview:

  • Tool Retrieval no funciona con el método clásico generateContent;
  • la interfaz puede cambiar antes del lanzamiento general;
  • un esquema ya cargado no se puede descargar hasta que termine la conversación.

Google no aporta mediciones de la precisión en la elección de herramientas, aunque cita su caída como una de las razones del lanzamiento. Anthropic sí tiene esos datos: según sus mediciones internas, la precisión de Claude Opus 4.5 en tareas con MCP subió del 79,5% al 88,1%. Son cifras internas de la compañía, no una verificación independiente.

La conclusión práctica es sencilla. Si un agente tiene decenas de herramientas y varios servidores MCP, de los que en una conversación se usa solo una pequeña parte, merece la pena probar la carga diferida con tus propios logs: contar los tokens antes y después y comparar la precisión en la elección de funciones. Si el conjunto es pequeño y estable, la carga normal con caché probablemente sea más barata y sencilla.

Historia

Preguntas frecuentes sobre la noticia

Cómo funciona?

El desarrollador marca las funciones que se usan poco con una opción específica de carga diferida. El modelo sigue viendo el nombre y la descripción breve de cada una. Según las primeras mediciones de Google, esto supone unos 26 tokens por herramienta. Lo que no recibe es el esquema de parámetros, la parte más pesada. Cuando necesita una función, el modelo la solicita por su nombre. La API carga el esquema y el modelo realiza la llamada, todo dentro de una misma solicitud.

¿Qué se sabe sobre Qué dicen las cifras y las alternativas?

Según el cálculo de la redacción, con un precio de $1,50 por millón de tokens de entrada, una conversación con 200 herramientas cuesta $0,246 con carga normal y unos $0,035 con Tool Retrieval. En 10 000 conversaciones, el ahorro ronda los $2100. El cálculo no incluye los tokens de salida ni la caché. La entrada en caché cuesta $0,075 por millón, es decir, 20 veces menos que la normal. Las alternativas anuncian otras cifras. Anthropic habló de una reducción del 85% en el consumo de tokens para su Tool search tool.

Cuándo no compensa?

La función no tiene un cargo aparte: los tokens se pagan a las tarifas habituales. Pero cada búsqueda en el servidor implica una pasada más del modelo con todo el contexto. Es casi como pagar de nuevo el prompt, descontada la parte en caché. Google ofrece también un ejemplo en sentido contrario: 10 herramientas y un contexto de 30 000 tokens. Con carga diferida salen 92 830 tokens en lugar de 68 000, un 36,5% más. Google recomienda mantener la carga normal para bibliotecas de hasta unas 20 herramientas estables.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
¿Qué te parece?
Cargando comentarios…