Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAPI / Produto · Pronto p/ usoGoogle AI Blog→ original

Gemini API agora carrega esquemas de ferramentas sob demanda, e não em todo prompt

Quando um agente tem centenas de ferramentas, o esquema de parâmetros de cada uma precisa ser enviado em toda requisição. Isso aumenta os tokens e a latência, e ainda atrapalha a escolha da ferramenta certa. O Google adicionou ao Gemini Interactions API o modo Tool Retrieval: o modelo vê apenas o nome e a descrição da função e carrega o esquema completo quando necessário. Para bibliotecas grandes, é uma forma de reduzir os tokens de entrada sem cobrança separada, mas vale conferir o ganho no seu próprio tráfego.

Processado por IA de Google AI Blog; editado por Hamidun News
Gemini API agora carrega esquemas de ferramentas sob demanda, e não em todo prompt
Fonte: Google AI Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalGoogle AI Blog ↗
Editor-chefe
Ativaçãotool_search na requisição e defer_loading: true nas ferramentas
Dado-chave #2Funciona com o Gemini 3.6 e versões mais recentes, incluindo todos os modelos Gemini 4
Sem cobrança separadavocê paga pelos tokens mais um pequeno bloco fixo

Com as cinco primeiras ferramentas, o agente não tem dificuldade. Com cinquenta, os problemas aparecem: cada função tem um esquema JSON de parâmetros, e tudo isso vai para o modelo a cada requisição. A conta de tokens de entrada cresce, a resposta demora mais e o modelo erra mais a função, porque há candidatas demais. O Google tentou resolver isso e lançou em preview o Tool Retrieval no Gemini Interactions API.

Como funciona

A ideia lembra o sumário de um livro. O modelo sempre vê o nome e uma descrição curta de cada ferramenta, então sabe o que existe à disposição. Já a parte pesada, o esquema de parâmetros, só entra no contexto quando é necessária.

Para ativar o modo, é preciso adicionar a ferramenta tool_search à requisição e definir defer_loading: true nas funções que devem ficar em espera. O restante acontece dentro de uma única chamada de API. Digamos que o usuário escreva: «O pedido A-1042 chegou danificado, reembolse 40 dólares». O modelo pede a ferramenta issue_refund pelo nome, a API insere o esquema completo dela, e o modelo monta a chamada da função com o número do pedido e o valor. Os três passos aparecem em interaction.steps: a busca, o resultado da busca e o próprio function_call. Isso ajuda na depuração: dá para ver de imediato quais ferramentas o modelo considerou e se os nomes e descrições não falharam.

Daí em diante, tudo funciona como no function calling convencional. Seu código executa o reembolso e devolve o function_result.

Não é preciso montar nem hospedar um índice: a busca roda no lado do Gemini. As ferramentas mais usadas podem ficar carregadas desde o início, e só o «cauda longa» precisa ser adiado.

Cache, MCP e registro próprio

Há três detalhes práticos. O primeiro envolve o cache de prefixo. Os esquemas adiados não ficam no começo do prompt, e os escolhidos são adicionados mais tarde, ao longo da conversa. Assim, o trecho inicial em cache não muda de uma rodada para outra, e o ganho do cache não se perde.

O segundo detalhe é sobre MCP. Se você definir defer_loading: true em uma ferramenta do tipo mcp_server, todas as funções desse servidor remoto passam a ser carregadas sob demanda. Dá para conectar um servidor MCP grande sem listar suas ferramentas manualmente.

O terceiro é para quem já tem um registro próprio de ferramentas, um índice vetorial ou um filtro de permissões por usuário. Para esses casos, existe o modo cliente: o tool_search é declarado com "execution": "client", e a busca é feita pelo seu aplicativo, que devolve os esquemas adequados no function_result. O custo dessa abordagem é uma ida e volta de rede a mais em cada busca. Em compensação, as ferramentas não precisam ser declaradas com antecedência. Quando o usuário conecta uma nova integração na hora, as funções dela podem ser mostradas ao modelo no meio da conversa.

Preço, limitações e o que fazer

Não há cobrança separada pelo Tool Retrieval. Os tokens de entrada e de saída são contabilizados pela tarifa normal do modelo escolhido. Mas não existe almoço grátis, e o Google admite isso abertamente. O próprio tool_search adiciona um pequeno bloco fixo de tokens de entrada. Cada esquema carregado é cobrado como token de entrada até o fim da conversa, assim como uma ferramenta declarada de antemão. A economia aparece quando há mais esquemas que o modelo nunca carregou do que esquemas carregados. Segundo o Google, em bibliotecas grandes essa é a situação comum, mas o anúncio não traz números concretos de economia. A empresa recomenda medir o efeito no seu próprio tráfego.

Há ainda outras limitações. O recurso está em preview, ou seja, a interface pode mudar. Ele funciona apenas no Interactions API e apenas com modelos Gemini 3.6 e mais recentes, incluindo todos os modelos Gemini 4. Se você tem só um punhado de ferramentas, o ganho será irrisório, e a etapa extra de busca pode aumentar a latência. Além disso, o modelo escolhe a ferramenta pelo nome e pela descrição, então descrições fracas ou parecidas levarão a carregar as funções erradas.

O que fazer na prática? Se você está montando um agente com dezenas de funções ou conectando grandes servidores MCP, vale fazer um pequeno experimento. Deixe as ferramentas mais usadas carregadas desde o início, adie as demais e compare tokens, latência e a taxa de funções escolhidas corretamente em conversas reais. Aproveite para revisar as descrições: agora são elas que decidem se o modelo vai encontrar a ferramenta certa.

História

Perguntas frequentes sobre a notícia

Como funciona?

A ideia lembra o sumário de um livro. O modelo sempre vê o nome e uma descrição curta de cada ferramenta, então sabe o que existe à disposição. Já a parte pesada, o esquema de parâmetros, só entra no contexto quando é necessária. Para ativar o modo, é preciso adicionar a ferramenta tool_search à requisição e definir defer_loading: true nas funções que devem ficar em espera. O restante acontece dentro de uma única chamada de API.

O que se sabe sobre Cache, MCP e registro próprio?

Há três detalhes práticos. O primeiro envolve o cache de prefixo. Os esquemas adiados não ficam no começo do prompt, e os escolhidos são adicionados mais tarde, ao longo da conversa. Assim, o trecho inicial em cache não muda de uma rodada para outra, e o ganho do cache não se perde. O segundo detalhe é sobre MCP. Se você definir defer_loading: true em uma ferramenta do tipo mcp_server, todas as funções desse servidor remoto passam a ser carregadas sob demanda.

O que se sabe sobre Preço, limitações e o que fazer?

Não há cobrança separada pelo Tool Retrieval. Os tokens de entrada e de saída são contabilizados pela tarifa normal do modelo escolhido. Mas não existe almoço grátis, e o Google admite isso abertamente. O próprio tool_search adiciona um pequeno bloco fixo de tokens de entrada. Cada esquema carregado é cobrado como token de entrada até o fim da conversa, assim como uma ferramenta declarada de antemão. A economia aparece quando há mais esquemas que o modelo nunca carregou do que esquemas carregados.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…