Google lança Decisions API: roteamento e classificação por US$ 0,10 por milhão de tokens

Quase todo produto baseado em LLM tem uma camada tediosa que ninguém mostra nas demonstrações: um roteador, um classificador, um filtro. Ela decide qual modelo chamar, se a requisição passa pela política e se o contexto encontrado é adequado. Normalmente usa-se um pequeno modelo generativo, pede-se que ele responda com uma única palavra e depois o resultado é analisado. O Google propõe eliminar essa gambiarra: a Gemini Decisions API foi criada justamente para tarefas de escolha.

O que é

É um endpoint separado baseado no modelo Gemini Decision 1. Ele não escreve texto. Em uma única passagem, avalia todas as opções e devolve probabilidades. As perguntas são de três tipos:

• sim ou não, com a probabilidade de a condição ser atendida;
• escolha entre 2 e 255 opções, com uma probabilidade para cada uma;
• avaliação em uma escala a partir de zero, com uma pontuação contínua.

Na entrada podem ser enviados até 256 mil tokens: texto, imagens, áudio, vídeo ou PDF. Sobre um mesmo conteúdo, é permitido fazer até mil perguntas independentes em uma única requisição.

Como isso funciona na prática

Imagine um suporte que recebe solicitações com capturas de tela anexadas. Antes, era feita uma chamada separada para cada atributo: se é um reembolso ou não, se o cliente está irritado ou não, para qual das doze equipes encaminhar, qual o grau de urgência. Agora a solicitação é enviada uma única vez, acompanhada de uma lista de perguntas. Em resposta, você recebe um conjunto de probabilidades e pontuações que podem ser comparadas imediatamente com limiares no código.

Esse esquema também é conveniente para agentes. Em vez de pedir a um modelo grande que "escolha a ferramenta e explique", você obtém uma distribuição entre as ferramentas. Se a confiança ficar abaixo do limiar, a requisição segue para um modelo mais caro ou para uma pessoa. É a lógica comum de engenharia, só que agora apoiada em números, e não na análise de uma string.

Dinheiro e calibração

Pela tarifa, um milhão de tokens de entrada custa 10 centavos, e os de saída não são cobrados. O conteúdo comum da requisição é pago uma só vez, não importa quantas perguntas sejam feitas sobre ele. Por isso, um documento longo com cem perguntas custa o mesmo que o mesmo documento com uma.

O Google afirma que, em seu próprio conjunto de testes de roteamento de agentes, raciocínio, ranqueamento e tarefas multimodais, o modelo apresenta o menor erro de calibração. A calibração aqui é a honestidade das probabilidades: se o modelo diz "80%", ele deve acertar em cerca de quatro casos em cada cinco. Para limiares e escalonamento, isso é mais importante do que a precisão pura. Lá também é declarada uma economia de quase cinco vezes em relação ao Gemini 3.5 Flash-Lite por meio da Interactions API.

O que levar em conta

Primeiro, todos os números por ora vêm dos benchmarks do próprio Google. Antes de substituir um roteador que funciona, execute o modelo com seus próprios dados rotulados e verifique você mesmo a calibração: é ela que determina se os limiares são confiáveis.

Segundo, o acesso ainda é limitado. A API está aberta por meio da Gemini API e do Google AI Studio, e o suporte no Google Cloud é prometido para depois. Se você está em um ambiente corporativo do Vertex, terá de esperar. Para protótipos no AI Studio há um nível gratuito.

Terceiro, o ecossistema se atualiza aos poucos. A conexão com OpenRouter, LangChain, Vercel, LiteLLM e outras ferramentas não aparece de imediato, então no início são possíveis arestas.

O que fazer

Encontre na sua stack os pontos em que um LLM é usado como um interruptor: roteamento entre modelos, moderação, avaliação da relevância do contexto em RAG, escolha de ferramenta por um agente. São esses os primeiros que vale testar com a Decisions API. Se as probabilidades se mostrarem honestas, você terá uma camada de controle mais barata e previsível, e os modelos generativos caros ficarão para os casos em que realmente se precisa de texto.