Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoAnálise · No radarTNW→ original

Baseten lança joey-1: modelo responde "sim/não" em 20 ms e custa US$ 0,01 por milhão de tokens

A Baseten lançou o joey-1, um modelo aberto de 2 bilhões de parâmetros que, em vez de texto, devolve "sim/não" ou o número da opção, junto com a probabilidade, por exemplo "spam, 94%". Um milhão de tokens (pedaços de texto usados para calcular o preço) custa US$ 0,01, e uma requisição de 2.000 tokens é processada em 20 ms. Para ordenar tickets, detectar spam e bloquear prompts nocivos, isso basta, sem precisar de um LLM grande. Por isso, a classificação rotineira sai mais barata quando delegada a modelos especializados.

Processado por IA de TNW; editado por Hamidun News
Baseten lança joey-1: modelo responde "sim/não" em 20 ms e custa US$ 0,01 por milhão de tokens
Fonte: TNW. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTNW ↗
Editor-chefe
Rotulagem de 10 milhões de tickets por mêscerca de US$ 50 contra US$ 500 no mammoth-1
Dado-chave #22,5 vezes mais rápido que o elephant-1; a base é o Qwen3.5-2B, da Alibaba
Dado-chave #3Pesos abertos no Hugging Face sob licença MIT

Muitas empresas usam grandes modelos de linguagem em tarefas em que o texto nem é necessário: é spam ou não, para qual fila encaminhar a solicitação de um cliente, se o usuário não está tentando contornar uma proteção. Para isso, basta uma resposta curta: "sim", "não" ou "opção B". Foi pensando nesse caso que a Baseten lançou o joey-1, um modelo aberto de 2 bilhões de parâmetros.

Ele não escreve parágrafos: retorna a resposta e a probabilidade, por exemplo "spam, confiança de 94%". Segundo a empresa, uma requisição típica de 2.000 tokens (um token é um pedaço de palavra, e é por tokens que o preço é calculado) é processada em cerca de 20 milissegundos, e um milhão de tokens custa US$ 0,01.

Em que o joey-1 difere de um LLM comum

Um modelo de linguagem comum responde com texto, que depois precisa ser interpretado por código: procurar a palavra "sim", verificar o formato, lidar com a conversa desnecessária. O joey-1 funciona de outro jeito: a saída já é a escolha pronta e um número indicando o quanto o modelo está confiante nela.

A probabilidade é útil em produção. Os casos com alta confiança podem ser tratados automaticamente, e os duvidosos vão para uma pessoa ou para um modelo mais forte. É um esquema conhecido: primeiro um filtro barato, depois uma análise cara apenas para o que é controverso.

O joey-1 faz parte da mesma linha dos modelos maiores mammoth-1 e elephant-1, que o laboratório de pesquisa da Baseten, a Base Labs, havia lançado uma semana antes. Uma abordagem parecida foi apresentada em setembro pela TypeSafe AI, o que sugere que o formato de "modelo solucionador" está aos poucos se firmando como um nicho próprio.

Quanto custa e o que há por dentro

A Baseten faz uma conta simples: rotular 10 milhões de tickets de suporte por mês com o joey-1 custaria cerca de US$ 50. Com o mammoth-1, o mesmo trabalho custaria em torno de US$ 500. Em velocidade, o joey-1 é cerca de 2,5 vezes mais rápido que o elephant-1. Para comparação, a Microsoft lançou neste mês um modelo baseado no Qwen a US$ 0,042 por milhão de tokens, ou seja, cerca de quatro vezes mais caro.

A base do joey-1 é o Qwen3.5-2B, da Alibaba. A Baseten o treinou com 6,21 milhões de exemplos de decisões. Os pesos estão no Hugging Face sob licença MIT: podem ser usados livremente em produtos comerciais e executados em servidores próprios.

O que verificar antes de adotar

Há uma ressalva importante. A Baseten chama o joey-1 do mais forte modelo de decisão entre os que têm até 3 bilhões de parâmetros, mas os testes que sustentam essa afirmação ainda não foram publicados. No cartão do modelo, ele aparece em 37º lugar entre 230 no ranking Jev Decision Index e tem o melhor resultado entre os modelos com menos de 4 bilhões de parâmetros. Para esse tamanho, o resultado é bom, mas a classificação geral não garante que o modelo dê conta dos seus tickets ou da sua definição de prompt "nocivo". Velocidade e preço também são informados pela própria empresa; a fonte não traz medições independentes.

A recomendação prática para as equipes é a seguinte. Se um LLM grande faz triagem, filtragem ou roteamento no seu produto, monte um pequeno conjunto de exemplos rotulados por você e compare o joey-1 com a solução atual em precisão e custo. Com pesos abertos e licença MIT, um teste piloto custa quase nada.

O segundo conselho é usar a probabilidade como limite. As respostas confiantes podem ser processadas automaticamente, e as controversas seguem para revisão manual ou para um modelo mais potente. Assim é possível manter a qualidade e economizar na maior parte das requisições.

Para a própria Baseten, isso também é uma questão de posicionamento. A empresa ajuda negócios a colocar modelos em operação, foi avaliada em até US$ 13 bilhões em junho e agora lança modelos próprios. Modelos de decisão baratos são uma forma de atrair clientes que precisam de inferência em massa, e não de textos bem escritos.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Em que o joey-1 difere de um LLM comum?

Um modelo de linguagem comum responde com texto, que depois precisa ser interpretado por código: procurar a palavra "sim", verificar o formato, lidar com a conversa desnecessária. O joey-1 funciona de outro jeito: a saída já é a escolha pronta e um número indicando o quanto o modelo está confiante nela. A probabilidade é útil em produção. Os casos com alta confiança podem ser tratados automaticamente, e os duvidosos vão para uma pessoa ou para um modelo mais forte.

O que se sabe sobre Quanto custa e o que há por dentro?

A Baseten faz uma conta simples: rotular 10 milhões de tickets de suporte por mês com o joey-1 custaria cerca de US$ 50. Com o mammoth-1, o mesmo trabalho custaria em torno de US$ 500. Em velocidade, o joey-1 é cerca de 2,5 vezes mais rápido que o elephant-1. Para comparação, a Microsoft lançou neste mês um modelo baseado no Qwen a US$ 0,042 por milhão de tokens, ou seja, cerca de quatro vezes mais caro. A base do joey-1 é o Qwen3.5-2B, da Alibaba. A Baseten o treinou com 6,21 milhões de exemplos de decisões.

O que verificar antes de adotar?

Há uma ressalva importante. A Baseten chama o joey-1 do mais forte modelo de decisão entre os que têm até 3 bilhões de parâmetros, mas os testes que sustentam essa afirmação ainda não foram publicados. No cartão do modelo, ele aparece em 37º lugar entre 230 no ranking Jev Decision Index e tem o melhor resultado entre os modelos com menos de 4 bilhões de parâmetros.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…