Baseten lança joey-1: modelo responde "sim/não" em 20 ms e custa US$ 0,01 por milhão de tokens
A Baseten lançou o joey-1, um modelo aberto de 2 bilhões de parâmetros que, em vez de texto, devolve "sim/não" ou o número da opção, junto com a probabilidade, por exemplo "spam, 94%". Um milhão de tokens (pedaços de texto usados para calcular o preço) custa US$ 0,01, e uma requisição de 2.000 tokens é processada em 20 ms. Para ordenar tickets, detectar spam e bloquear prompts nocivos, isso basta, sem precisar de um LLM grande. Por isso, a classificação rotineira sai mais barata quando delegada a modelos especializados.
Processado por IA de TNW; editado por Hamidun News
Muitas empresas usam grandes modelos de linguagem em tarefas em que o texto nem é necessário: é spam ou não, para qual fila encaminhar a solicitação de um cliente, se o usuário não está tentando contornar uma proteção. Para isso, basta uma resposta curta: "sim", "não" ou "opção B". Foi pensando nesse caso que a Baseten lançou o joey-1, um modelo aberto de 2 bilhões de parâmetros.
Ele não escreve parágrafos: retorna a resposta e a probabilidade, por exemplo "spam, confiança de 94%". Segundo a empresa, uma requisição típica de 2.000 tokens (um token é um pedaço de palavra, e é por tokens que o preço é calculado) é processada em cerca de 20 milissegundos, e um milhão de tokens custa US$ 0,01.
Em que o joey-1 difere de um LLM comum
Um modelo de linguagem comum responde com texto, que depois precisa ser interpretado por código: procurar a palavra "sim", verificar o formato, lidar com a conversa desnecessária. O joey-1 funciona de outro jeito: a saída já é a escolha pronta e um número indicando o quanto o modelo está confiante nela.
A probabilidade é útil em produção. Os casos com alta confiança podem ser tratados automaticamente, e os duvidosos vão para uma pessoa ou para um modelo mais forte. É um esquema conhecido: primeiro um filtro barato, depois uma análise cara apenas para o que é controverso.
O joey-1 faz parte da mesma linha dos modelos maiores mammoth-1 e elephant-1, que o laboratório de pesquisa da Baseten, a Base Labs, havia lançado uma semana antes. Uma abordagem parecida foi apresentada em setembro pela TypeSafe AI, o que sugere que o formato de "modelo solucionador" está aos poucos se firmando como um nicho próprio.
Quanto custa e o que há por dentro
A Baseten faz uma conta simples: rotular 10 milhões de tickets de suporte por mês com o joey-1 custaria cerca de US$ 50. Com o mammoth-1, o mesmo trabalho custaria em torno de US$ 500. Em velocidade, o joey-1 é cerca de 2,5 vezes mais rápido que o elephant-1. Para comparação, a Microsoft lançou neste mês um modelo baseado no Qwen a US$ 0,042 por milhão de tokens, ou seja, cerca de quatro vezes mais caro.
A base do joey-1 é o Qwen3.5-2B, da Alibaba. A Baseten o treinou com 6,21 milhões de exemplos de decisões. Os pesos estão no Hugging Face sob licença MIT: podem ser usados livremente em produtos comerciais e executados em servidores próprios.
O que verificar antes de adotar
Há uma ressalva importante. A Baseten chama o joey-1 do mais forte modelo de decisão entre os que têm até 3 bilhões de parâmetros, mas os testes que sustentam essa afirmação ainda não foram publicados. No cartão do modelo, ele aparece em 37º lugar entre 230 no ranking Jev Decision Index e tem o melhor resultado entre os modelos com menos de 4 bilhões de parâmetros. Para esse tamanho, o resultado é bom, mas a classificação geral não garante que o modelo dê conta dos seus tickets ou da sua definição de prompt "nocivo". Velocidade e preço também são informados pela própria empresa; a fonte não traz medições independentes.
A recomendação prática para as equipes é a seguinte. Se um LLM grande faz triagem, filtragem ou roteamento no seu produto, monte um pequeno conjunto de exemplos rotulados por você e compare o joey-1 com a solução atual em precisão e custo. Com pesos abertos e licença MIT, um teste piloto custa quase nada.
O segundo conselho é usar a probabilidade como limite. As respostas confiantes podem ser processadas automaticamente, e as controversas seguem para revisão manual ou para um modelo mais potente. Assim é possível manter a qualidade e economizar na maior parte das requisições.
Para a própria Baseten, isso também é uma questão de posicionamento. A empresa ajuda negócios a colocar modelos em operação, foi avaliada em até US$ 13 bilhões em junho e agora lança modelos próprios. Modelos de decisão baratos são uma forma de atrair clientes que precisam de inferência em massa, e não de textos bem escritos.
- 22 de nov. de 2026Microsoft lança modelo de 100 bilhões de parâmetros em uma única CPU: respostas até 6,17 vezes mais rápidas
- 22 de nov. de 2026bitnet.cpp da Microsoft acelera LLMs em CPUs comuns em até 6,17 vezes e corta o consumo de energia em 82%
- 22 de nov. de 2026Analistas fizeram as contas: em 2028, 87% da energia da Anthropic virá do gás e 11% do carvão
- 22 de nov. de 2026Agente da Microsoft escreveu os pesos de uma rede neural à mão e atingiu 100% de acurácia em 13 tarefas
Perguntas frequentes sobre a notícia
O que se sabe sobre Em que o joey-1 difere de um LLM comum?
Um modelo de linguagem comum responde com texto, que depois precisa ser interpretado por código: procurar a palavra "sim", verificar o formato, lidar com a conversa desnecessária. O joey-1 funciona de outro jeito: a saída já é a escolha pronta e um número indicando o quanto o modelo está confiante nela. A probabilidade é útil em produção. Os casos com alta confiança podem ser tratados automaticamente, e os duvidosos vão para uma pessoa ou para um modelo mais forte.
O que se sabe sobre Quanto custa e o que há por dentro?
A Baseten faz uma conta simples: rotular 10 milhões de tickets de suporte por mês com o joey-1 custaria cerca de US$ 50. Com o mammoth-1, o mesmo trabalho custaria em torno de US$ 500. Em velocidade, o joey-1 é cerca de 2,5 vezes mais rápido que o elephant-1. Para comparação, a Microsoft lançou neste mês um modelo baseado no Qwen a US$ 0,042 por milhão de tokens, ou seja, cerca de quatro vezes mais caro. A base do joey-1 é o Qwen3.5-2B, da Alibaba. A Baseten o treinou com 6,21 milhões de exemplos de decisões.
O que verificar antes de adotar?
Há uma ressalva importante. A Baseten chama o joey-1 do mais forte modelo de decisão entre os que têm até 3 bilhões de parâmetros, mas os testes que sustentam essa afirmação ainda não foram publicados. No cartão do modelo, ele aparece em 37º lugar entre 230 no ranking Jev Decision Index e tem o melhor resultado entre os modelos com menos de 4 bilhões de parâmetros.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.