Google lança o gemini-decision-1: o modelo devolve probabilidades em vez de texto em 150–250 ms

Uma cena familiar: você precisa decidir para qual fila enviar a solicitação de um cliente. Pega um grande modelo de linguagem, pede que ele "responda em formato JSON", espera que gere o texto token por token, depois faz o parsing da resposta e reza para que nenhuma chave tenha se perdido. Tudo isso por uma única decisão do tipo "ramo A ou ramo B". O Google lançou uma ferramenta que elimina essa camada por inteiro.

O que exatamente foi lançado

O modelo se chama gemini-decision-1, está disponível como um endpoint separado e, por enquanto, em preview no AI Studio. A principal diferença em relação ao Gemini comum: ele simplesmente não gera tokens. Em vez disso, em um único forward pass, avalia as opções de resposta e devolve probabilidades. Os tokens de saída são zero, e o código pode ramificar diretamente a partir dos números.

Como entrada, é possível enviar texto, imagens, áudio, vídeo e PDF, somando até 262.144 tokens. Para uma única entrada, é permitido fazer até 1.000 perguntas independentes. Há três tipos de pergunta:

• sim/não, com resposta no intervalo de 0,01–0,99;
• escolha entre 2 e 255 opções;
• nota por rubrica com média ponderada.

As perguntas não enxergam umas às outras, portanto as respostas não se influenciam. Segundo os dados do anúncio, a latência quase não cresce: 50–100 ms no próprio modelo e 150–250 ms end-to-end, igualmente para uma pergunta e para cem.

Como isso fica na prática

Imagine um e-mail recebido pelo suporte com uma captura de tela anexada. Antes, você faria várias chamadas ou um prompt longo pedindo uma estrutura. Agora, envia o e-mail e a captura uma única vez e adiciona três perguntas:

• "Isto é um problema de pagamento?" — sim/não;
• "Para qual equipe encaminhar?" — escolha entre cinco opções;
• "Qual a urgência segundo a rubrica?" — nota por critérios.

Como resposta, chegam três conjuntos de números. Depois, um simples if: se a probabilidade de pagamento for superior a 0,8, encaminha-se para o faturamento. Sem parsing e sem novas tentativas por causa de um formato quebrado.

O modelo de cobrança também é interessante. A entrada comum é paga uma só vez, e cada pergunta acrescenta apenas suas próprias instruções e critérios. Não há cobranças separadas por tokens de thinking, transcrição de áudio e OCR. Preço: US$ 0,10 por 1M de tokens de entrada e US$ 0 pelos de saída. No nível gratuito estão disponíveis 200 requisições por minuto, 50K tokens por minuto e 10.000 requisições por dia. No Tier 1, os limites sobem para 1.500 RPM e 1M TPM; no Tier 3, para 15.000 RPM e 10M TPM.

Para quem serve e onde está a pegadinha

O autor da análise original chama isso de o tipo de lançamento mais subestimado e aposta nos agentes. Se você tem uma cadeia de dez passos e em cada um precisa escolher uma ferramenta, a economia, na estimativa dele, não é de alguns por cento, mas de uma ordem de grandeza: menos latência, menos custo, nenhum parsing. Trata-se de uma estimativa do autor do post, e não de um benchmark medido, mas a lógica é clara. Muitas chamadas de LLM em produção são, no fundo, classificadores: roteamento, moderação, filtros, triagem, pontuação por checklist. Para elas, a geração de texto era apenas um adaptador.

Agora, as limitações.

• É um preview. Limites, preços e comportamento do modelo podem mudar antes do lançamento.
• Batch API e cache de contexto não são suportados. Se você tem um grande contexto repetitivo, como uma instrução longa ou uma base de conhecimento, terá de pagar por ele toda vez.
• A descrição não traz métricas de qualidade. Não se sabe quão bem calibradas são as probabilidades nem como o modelo lida com formulações sutis de rubricas. Se você for tomar uma decisão com consequências jurídicas ou financeiras a partir de um limiar de 0,7, verifique antes a calibração com os seus dados.
• É um endpoint do Google, portanto a dependência de fornecedor permanece.

O que fazer na prática

Liste as suas chamadas de LLM e marque aquelas em que a resposta, no fim das contas, se resume a um rótulo, uma flag ou um número. Esses são os primeiros candidatos. Reúna uma amostra rotulada de algumas centenas de exemplos, rode-a no nível gratuito do AI Studio e compare a precisão e a latência com a sua solução atual. Se a qualidade não for pior e a latência cair para 150–250 ms, vale migrar o roteamento e a moderação para cá. A geração de texto para o usuário, naturalmente, deixe com os modelos convencionais.