Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarХабр: NLP→ original

Jev entrega decisões 40 a 200 vezes mais rápido que LLMs em vez de texto, e Google responde com um análogo

Um agente muitas vezes precisa menos de texto e mais de uma escolha rápida: qual ferramenta chamar ou se uma ação é perigosa. A TypeSafe AI lançou o Jev, um modelo que recebe a descrição de uma situação e uma lista de perguntas e, em uma única passagem, devolve as respostas com probabilidades, sem que seja preciso interpretar texto. Segundo a empresa, nessas tarefas ele é de 40 a 200 vezes mais rápido que os LLMs comuns. Em novembro, o Google respondeu com o Gemini Decision 1, então vale observar esse tipo de modelo para decisões rápidas em agentes.

Processado por IA de Хабр: NLP; editado por Hamidun News
Jev entrega decisões 40 a 200 vezes mais rápido que LLMs em vez de texto, e Google responde com um análogo
Fonte: Хабр: NLP. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalХабр: NLP ↗
Editor-chefe
Gemini Decision 1latência de 150–250 ms e US$ 0,10 por milhão de tokens de entrada
Dado-chave #2Até 1000 perguntas por requisição e contexto de 256 mil tokens no modelo do Google
Dado-chave #3A velocidade do Jev é uma alegação do fornecedor em tarefas de automação, não em todas as tarefas

Imagine um agente de suporte que recebe o e-mail de um cliente. Ele precisa decidir três coisas: devolver o dinheiro, encaminhar o caso a uma pessoa ou apenas responder, e se é necessária uma verificação adicional. Um LLM comum escreveria um parágrafo de texto, que depois teria de ser interpretado por um parser.

Em setembro de 2026, a TypeSafe AI propôs outro caminho: o modelo Jev não gera texto. Ele recebe a descrição da situação e uma lista de perguntas com opções de resposta predefinidas e devolve de imediato a escolha, com a probabilidade. Segundo a própria empresa, em tarefas de automação adequadas isso é de 40 a 200 vezes mais rápido que os LLMs tradicionais.

Já em 11 de novembro, o Google entrou nesse nicho com o Gemini Decision 1. Vamos analisar o que são esses modelos e quais outras alternativas ao GPT já saíram dos laboratórios.

Modelos que não escrevem texto: Jev e Gemini Decision 1

Os LLMs no estilo GPT têm duas características marcantes: a arquitetura Transformer somente decodificador e a geração autorregressiva, em que o próximo token é previsto a partir dos anteriores (como o T9, só que muito mais poderoso). São propriedades independentes, e qualquer uma delas pode ser substituída.

O Jev abre mão da geração sequencial quando a aplicação precisa de uma resposta específica: escolher uma ferramenta, classificar uma solicitação, avaliar um risco, definir o próximo passo. As perguntas são processadas em paralelo, e o resultado chega estruturado, junto com as probabilidades. O modelo é treinado com o método Reinforcement Learning for Calibrated Decisions (RLCD). Ele ensina não apenas a escolher a opção correta, mas também a avaliar com honestidade a própria confiança: se o modelo diz “tenho 90% de certeza”, isso precisa corresponder à realidade.

O número de 40 a 200 vezes deve ser lido com cautela. É uma comparação do fornecedor em cenários específicos, e não uma aceleração universal da IA. A empresa ainda não revelou a arquitetura interna do Jev, então é cedo para classificá-lo como SSM ou atenção linear. O Jev também não pretende substituir LLMs de uso geral: um modelo pode escrever código, enquanto outro decide rapidamente qual ferramenta chamar.

O Gemini Decision 1 segue o mesmo princípio: em uma única passagem, avalia as opções e devolve probabilidades e indicadores de confiança. Mas ele é multimodal: entende texto, imagens, áudio, vídeo e PDF, mantém contexto de até 256 mil tokens e aceita até 1000 perguntas independentes por requisição. O Google informa latência de 150–250 ms e preço de US$ 0,10 por milhão de tokens de entrada; os tokens de saída não são cobrados. Segundo testes da própria empresa, o modelo supera o Jev em parte dos benchmarks, mas não em todos. O Google o utiliza para rotear requisições entre modelos e para verificar a segurança de ferramentas.

Redes recorrentes, atenção linear e híbridos

As redes recorrentes não desapareceram; foram reconstruídas. A RWKV mantém um estado recorrente na inferência, mas é treinada em paralelo. Apesar de Key e Value no nome, ela não tem o KV-cache crescente (a memória com chaves e valores antigos). A xLSTM atualiza a LSTM clássica com gating exponencial e memória matricial. A equipe da NXAI treinou um modelo de 7 bilhões de parâmetros e publicou o código e os pesos. Mas pesos abertos não significam que o modelo se encaixe facilmente no seu servidor de inferência: são necessários kernels especializados, quantização e um batching adequado, e nisso o Transformer tem grande vantagem.

A atenção linear comprime o histórico em um estado compacto, para não armazenar as chaves e os valores de cada token. A questão central é não apagar o que é importante. A DeltaNet considera a associação já armazenada antes de gravar e corrige a memória. A Gated DeltaNet controla o esquecimento, e a Kimi Delta Attention (KDA) faz isso por canal. Em 2026, a NVIDIA propôs a Gated DeltaNet-2, em que apagar e gravar são regulados separadamente.

Na prática, os híbridos são mais comuns. O Qwen3-Next-80B-A3B tem 80 bilhões de parâmetros, dos quais cerca de 3 bilhões estão ativos por token, e alterna camadas Gated DeltaNet com atenção global. A diferença entre parâmetros totais e ativos se deve ao MoE, e não a uma nova arquitetura. No Kimi Linear 48B-A3B, da Moonshot AI, cada três camadas KDA são seguidas por uma camada de atenção completa: os blocos baratos processam a maior parte da sequência, enquanto as camadas globais mantêm acesso direto ao contexto. Nesses modelos, o KV-cache permanece nas camadas globais, de modo que a economia real depende do batch, do comprimento do texto e da qualidade dos kernels de computação.

Convoluções e difusão: LFM3, LLaDA, Mercury

A Liquid AI mostrou que convoluções também servem para texto. Na LFM2, convoluções curtas são combinadas com camadas de atenção pontuais, e a arquitetura foi ajustada ao hardware real, incluindo CPUs de dispositivos móveis. Em 27 de outubro de 2026 foi lançada a LFM3 para texto, visão e áudio. No modelo de texto LFM3-1.7B, de 24 camadas, 13 são convolucionais, 5 têm atenção local e 6 têm atenção global. Não se trata de um modelo sem atenção; ela apenas não é necessária em todas as camadas. O objetivo são agentes locais com limites rígidos de memória, energia e latência.

LLMs de difusão mudam a ordem da geração. O modelo começa com uma sequência parcialmente mascarada e refina muitas posições ao mesmo tempo, em alguns passos. A LLaDA apresentou resultados competitivos em várias tarefas na escala de 6 a 10 bilhões de parâmetros, embora por dentro continue sendo um Transformer: a diferença está na geração não autorregressiva.

O Mercury, da Inception Labs, chegou a uma API comercial, voltada para código. O refinamento paralelo oferece alta taxa de transferência nos testes publicados, mas as iterações adicionais custam computação, de modo que o ganho depende do tamanho da resposta e do hardware. Para código, a ideia é atraente, já que edições frequentemente precisam ser feitas no meio do arquivo.

Ainda assim, a qualidade dessa edição deve ser verificada em diffs reais.

O que fazer como desenvolvedor

Não vale confundir MoE, quantização, speculative decoding e RAG com novas arquiteturas: são formas de tornar os LLMs mais baratos, e não substitutos do GPT. A escolha deve partir da restrição do produto. Para processamento em fluxo, modelos recorrentes; para repositórios longos, híbridos; para assistentes locais, modelos compactos voltados a CPU ou NPU; para decisões rápidas dentro de um agente, modelos como o Jev e o Gemini Decision 1.

Por enquanto, nem RWKV, nem atenção linear, nem difusão substituíram universalmente o Transformer, que tem infraestrutura madura e escalonamento comprovado. Mais útil do que perguntar qual modelo é mais inteligente é perguntar qual arquitetura, em qual hardware e com qual camada de agente resolve melhor a sua tarefa. Todos os números de aceleração citados aqui são declarados pelos fornecedores, então verifique-os com a sua própria carga de trabalho.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Modelos que não escrevem texto: Jev e Gemini Decision 1?

Os LLMs no estilo GPT têm duas características marcantes: a arquitetura Transformer somente decodificador e a geração autorregressiva, em que o próximo token é previsto a partir dos anteriores (como o T9, só que muito mais poderoso). São propriedades independentes, e qualquer uma delas pode ser substituída. O Jev abre mão da geração sequencial quando a aplicação precisa de uma resposta específica: escolher uma ferramenta, classificar uma solicitação, avaliar um risco, definir o próximo passo.

O que se sabe sobre Redes recorrentes, atenção linear e híbridos?

As redes recorrentes não desapareceram; foram reconstruídas. A RWKV mantém um estado recorrente na inferência, mas é treinada em paralelo. Apesar de Key e Value no nome, ela não tem o KV-cache crescente (a memória com chaves e valores antigos). A xLSTM atualiza a LSTM clássica com gating exponencial e memória matricial. A equipe da NXAI treinou um modelo de 7 bilhões de parâmetros e publicou o código e os pesos.

O que se sabe sobre Convoluções e difusão: LFM3, LLaDA, Mercury?

A Liquid AI mostrou que convoluções também servem para texto. Na LFM2, convoluções curtas são combinadas com camadas de atenção pontuais, e a arquitetura foi ajustada ao hardware real, incluindo CPUs de dispositivos móveis. Em 27 de outubro de 2026 foi lançada a LFM3 para texto, visão e áudio. No modelo de texto LFM3-1.7B, de 24 camadas, 13 são convolucionais, 5 têm atenção local e 6 têm atenção global. Não se trata de um modelo sem atenção; ela apenas não é necessária em todas as camadas.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…