Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarHabr AI→ original

Modelos de decisão respondem em milissegundos: Jev custa US$ 0,042 por milhão de tokens

Decision Models são modelos de decisão: em vez de responder com palavras, eles devolvem diretamente probabilidades para cada opção. Por exemplo, diante da queixa "o dinheiro foi debitado, mas o pedido não aparece", o modelo responde "suporte técnico — 87%, contabilidade — 10%" e pronto. O primeiro deles, o Jev, da TypeSafe AI, custou US$ 0,042 por milhão de tokens de entrada no lançamento, e as saídas não eram cobradas. Por isso, para escolhas rotineiras em agentes, vale delegar a tarefa a um modelo desse tipo e reservar os casos complexos para um LLM grande.

Processado por IA de Habr AI; editado por Hamidun News
Modelos de decisão respondem em milissegundos: Jev custa US$ 0,042 por milhão de tokens
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Três tipos de tarefaescolha de opção, sim/não e avaliação em escala
Dado-chave #2Resposta em dezenas a centenas de milissegundos, já que a rede não gera texto
Dado-chave #3O Gemini Decision 1, do Google, custa US$ 0,10 por milhão de tokens de entrada

Imagine que você está criando um agente de IA para suporte. O cliente escreve: "Ontem paguei o pedido, o dinheiro foi debitado, mas no painel pessoal o pedido não aparece". O agente só precisa escolher para quem encaminhar a solicitação, mas usa para isso um modelo de linguagem caro, que primeiro raciocina por três parágrafos.

No outono de 2026, surgiu uma classe separada de soluções para esse problema: os Decision Models, ou modelos de decisão. Eles não conversam com a pessoa nem escrevem texto; devolvem probabilidades para opções predefinidas. O primeiro a sair, em setembro, foi o Jev, da TypeSafe AI, que custa US$ 0,042 por milhão de tokens de entrada (um token é aproximadamente um pedaço de palavra), e as saídas não eram cobradas no lançamento.

Para comparação, o Gemini Decision 1, do Google, cobra US$ 0,10 por milhão de tokens de entrada.

O que um modelo desses faz, em um exemplo simples

O nome remete ao livro de Daniel Kahneman: "Sistema 1" é o pensamento intuitivo e rápido, e "Sistema 2" é o pensamento lento e deliberado. Decision Models, ou System One Models, são a parte "rápida" da IA. Diante da queixa sobre o dinheiro debitado, o modelo devolve apenas os números: suporte técnico — 87%, contabilidade — 10%, entrega — 2%, vendas — 1%. Sem explicações, apenas o que o programa pode usar imediatamente.

A maioria dos modelos resolve três tipos de tarefa:

  • Choice — escolher uma opção de uma lista: para quem encaminhar a solicitação ou qual ação executar em seguida.
  • Yes/No — verificar uma condição: o documento atende aos requisitos, há erro na resposta, é preciso um humano?
  • Score — avaliar em escala: quão urgente é a tarefa ou quão bem o documento se encaixa na consulta.

Muitos modelos aceitam várias perguntas sobre um mesmo objeto e respondem em uma única requisição.

Em que isso difere de um classificador e de um LLM

Classificadores existem há muito tempo: regressão logística, random forest, CatBoost. Mas um modelo antifraude treinado em transações não consegue avaliar a qualidade de uma resposta de suporte: para uma nova tarefa é preciso outro modelo ou um novo treinamento. O Decision Model tenta combinar a universalidade de um LLM com a praticidade de um classificador. As opções de resposta e os critérios são definidos diretamente na requisição, sem retreinamento. O autor faz uma ressalva: para tarefas estáveis e bem definidas, um classificador especializado pode ser mais preciso, mais rápido e mais barato.

Em relação a um LLM comum, os novos modelos têm quatro argumentos:

  • Velocidade. O LLM gera a resposta token por token, mesmo quando basta um "sim" ou um "não". Muitos Decision Models avaliam as opções em uma única passagem pela rede, e a resposta chega em dezenas ou centenas de milissegundos.
  • Custo. O Liquid d1-ultra custa aproximadamente o mesmo que o Jev. Para uma requisição isolada a diferença é pequena, mas para milhões de decisões por dia ela se torna relevante.
  • Formato. A resposta fica restrita ao conjunto de opções definido. Mas formato correto não garante decisão correta: esses modelos também erram.
  • Confiança. As probabilidades permitem processar automaticamente os casos simples e enviar os complexos a um modelo mais forte ou a uma pessoa. Se o modelo diz "90%" cem vezes, ele deveria acertar em cerca de 90 dessas vezes. Isso precisa ser verificado com os dados próprios.

Quem já lançou

A onda começou em 15 de setembro de 2026 com o Jev, criado pela TypeSafe AI, fundada pelo ex-funcionário da OpenAI Diogo Almeida. Depois vieram o Tev1, da Together AI (22 de setembro), o Kev aberto (24 de setembro), o Clef, da Cloudflare (1º de outubro), o d1 multimodal, da Liquid AI (5 de outubro), o Liquid d1-ultra (15 de outubro), a Decisions API, da OpenAI (22 de outubro), e o Gemini Decision 1 (11 de novembro). Em 17 de novembro saiu o Liquid AI d1.2.

Via API estão disponíveis o Jev, o Liquid d1.1 e o d1-ultra, o Gemini Decision 1 (texto, imagens, áudio, vídeo e PDF), a OpenAI Decisions API baseada no GPT-6 Luna, o Perplexity Decider e o Decider Flash v1.3, além da família Clef, Clef-flash e Clef-omni.

Para rodar localmente, há o Kev 4B baseado no Qwen3.5, o Liquid d1-2B e o d1-Omni-2B, o experimental d1-omni-600M com 600 milhões de parâmetros, o Perplexity Decider Flash, a família Laya baseada em ModernBERT e mmBERT, os pesos abertos do Clef e do Clef-flash, além do Tev1 4B e 0.8B. Por dentro, eles são construídos de formas diferentes: alguns não geram tokens, outros são modelos de linguagem ajustados que dão respostas muito curtas.

O que fazer com isso

O esquema mais óbvio para agentes é o de "cérebro e reflexos". Um LLM potente define a estratégia e os planos, enquanto um Decision Model pequeno escolhe continuamente o próximo passo e só aciona o modelo grande em situações fora do padrão. Outras aplicações incluem o roteamento de requisições entre agentes, a seleção de ferramentas, a verificação das respostas de outros modelos, a avaliação de código, a moderação e a detecção de tentativas de manipular o agente.

Há também limitações. O autor ainda não apresentou tabelas comparativas próprias e promete publicá-las em uma continuação, então os números de qualidade terão de ser verificados por conta própria. Comece com um pequeno conjunto de exemplos rotulados do seu fluxo e compare as escolhas do modelo com a rotulagem manual. Em seguida, verifique a calibração: a confiança declarada coincide com a proporção real de respostas corretas? Só depois disso defina o limiar abaixo do qual a decisão passa para o modelo grande ou para uma pessoa.

História

Perguntas frequentes sobre a notícia

O que um modelo desses faz, em um exemplo simples?

O nome remete ao livro de Daniel Kahneman: "Sistema 1" é o pensamento intuitivo e rápido, e "Sistema 2" é o pensamento lento e deliberado. Decision Models, ou System One Models, são a parte "rápida" da IA. Diante da queixa sobre o dinheiro debitado, o modelo devolve apenas os números: suporte técnico — 87%, contabilidade — 10%, entrega — 2%, vendas — 1%. Sem explicações, apenas o que o programa pode usar imediatamente.

O que se sabe sobre Em que isso difere de um classificador e de um LLM?

Classificadores existem há muito tempo: regressão logística, random forest, CatBoost. Mas um modelo antifraude treinado em transações não consegue avaliar a qualidade de uma resposta de suporte: para uma nova tarefa é preciso outro modelo ou um novo treinamento. O Decision Model tenta combinar a universalidade de um LLM com a praticidade de um classificador. As opções de resposta e os critérios são definidos diretamente na requisição, sem retreinamento.

O que se sabe sobre Quem já lançou?

A onda começou em 15 de setembro de 2026 com o Jev, criado pela TypeSafe AI, fundada pelo ex-funcionário da OpenAI Diogo Almeida. Depois vieram o Tev1, da Together AI (22 de setembro), o Kev aberto (24 de setembro), o Clef, da Cloudflare (1º de outubro), o d1 multimodal, da Liquid AI (5 de outubro), o Liquid d1-ultra (15 de outubro), a Decisions API, da OpenAI (22 de outubro), e o Gemini Decision 1 (11 de novembro). Em 17 de novembro saiu o Liquid AI d1.2.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…