Google lança o Gemini Decision 1: resposta em 150–250 ms e US$ 0,10 por 1 milhão de tokens

É uma dor conhecida: você está construindo um agente e metade das chamadas dele a um modelo grande não é raciocínio, mas rotina. "Isso é spam ou não?", "qual ferramenta chamar?", "há um erro neste log?". Pagar pela geração de texto token a token só para obter a resposta "sim" ou "opção C" é um desperdício, além de lento. O Google resolveu esse problema com uma classe separada de modelos.

O que exatamente foi lançado

O Gemini Decision 1 é um "modelo de decisões". Ele trabalha com um conjunto fechado de opções: você fornece uma pergunta e uma lista de respostas, e ele avalia cada opção em uma única passada. O texto não é gerado token a token. Cada resposta vem acompanhada de uma estimativa de confiança (calibrated confidence).

Há três modos de operação: sim/não, escolha entre opções (até 255) e avaliação por rubrica. Como entrada, é possível enviar texto, imagens, áudio, vídeo e PDF. Uma única requisição comporta até 1000 perguntas com contexto de 256K. A latência de ponta a ponta é de 150–250 ms.

Preço: US$ 0,10 por milhão de tokens de entrada; os de saída não são cobrados. O Google afirma que isso é cerca de 5 vezes mais barato que o Flash-Lite. Segundo Phil Schmid, o projeto começou como um protótipo interno da DeepMind, e uma pequena equipe o transformou em modelo e API em cerca de seis semanas.

Como isso funciona na prática

Imagine um suporte que recebe milhares de chamados por hora. Antes, você pedia ao LLM: "determine a categoria e a urgência e escreva uma resposta em JSON". Agora, você envia um lote de perguntas como "isso é uma reclamação de pagamento?", "o cliente está irritado?", "é preciso um humano?" e recebe respostas com nível de confiança. Se a confiança estiver abaixo do limite, o chamado vai para um humano ou para um modelo grande.

Esse esquema foi mostrado pela Cloudflare no AI Engineer. Modelos de decisão rápidos escolhem ferramentas e extraem as linhas necessárias dos logs, enquanto um grande modelo de reasoning entra apenas para o diagnóstico. Em uma demonstração com falha de build, seis chamadas de LLM viraram uma só, e o consumo caiu de cerca de 40K tokens para 1,8K. A LangChain adicionou suporte ao Decision 1 no dia do lançamento, com uma classe base comum para os classificadores TypeSafe, de modo que conectá-lo a um pipeline existente não é difícil.

O que dizem os testes independentes

Os benchmarks do próprio Google parecem convincentes: o Decision 1 supera o concorrente Jev 1.14, da TypeSafe, em 5 de 7 testes em comum, por exemplo 92,2% contra 90,0% no JevBench. Mas a Artificial Analysis esfria o quadro.

• No Decision Index consolidado, o modelo marcou 66 pontos. Isso o coloca no nível do Elephant 9B e do Jev 1.14 e 7 pontos abaixo do Drex Max v1.1 e do GLiDE v1.2.
• Há liderança no AA-Omniscience-Decision (66) e no HLE-MultiChoice (49).
• No AA-Paperclip, o modelo responde sem erros a todas as perguntas em apenas 33% dos documentos; no Drex Max, esse indicador é de 63%.
• O preço por 1M de tarefas é de US$ 345, contra US$ 103 do Drex Max e US$ 156 do Jev.
• O tempo médio por tarefa é de 211 ms; no Jev, 92 ms.

Uma tarifa de entrada barata não significa uma tarefa barata: pelos cálculos da AA, o custo do trabalho real é maior que o de vários concorrentes. Em velocidade, o Jev é quase duas vezes mais rápido. A vantagem do Gemini Decision 1 está na multimodalidade e na grande janela de 1000 perguntas por requisição, não na qualidade absoluta.

O que fazer com isso

Desenvolvedores. Encontre no seu agente as chamadas em que a resposta é uma escolha dentro de uma lista finita: roteamento, seleção de ferramenta, filtros, extração de logs. Vale passá-las por um modelo de decisões e deixar o LLM caro para o raciocínio de verdade. Os limites de confiança ajudam a decidir quando escalar.

Gestores de produto. Calculem o custo da tarefa, não o preço por token. Passem o seu dataset pelo Decision 1, pelo Jev e pelo Drex e comparem precisão, latência e preço final nos seus dados. Os benchmarks dos fornecedores não ajudam aqui, como sempre.

Fundadores. O mercado de modelos "decisores" está apenas se formando, e o Google entrou nele ao mesmo tempo que a TypeSafe, que já tem clientes pagantes. É de se esperar uma guerra de preços e o rápido surgimento de novos concorrentes.

As limitações são evidentes: o modelo não substitui a geração; em conjuntos fechados de opções ele é bom, mas em documentos complexos fica claramente atrás dos melhores concorrentes. Os dados vêm, por enquanto, principalmente do Google e de um laboratório independente, então é melhor tomar a decisão após um teste próprio.