Inkling 2 Small consome 150K tokens por tarefa, 4 vezes mais que seu antecessor

Ao escolher um modelo para produção, a primeira coisa que muita gente verifica é o preço por milhão de tokens. É uma métrica conveniente, mas enganosa. Novos dados da Artificial Analysis mostram claramente o motivo.

O que as medições mostraram

Durante a execução do Intelligence Index, o Inkling 2 Small gera, em média, cerca de 150 mil tokens de saída por tarefa. No Inkling Small anterior, esse número era de aproximadamente 37 mil, o que representa um aumento de cerca de quatro vezes. Para efeito de comparação, o Gemini 3.8 Flash no modo high gera por volta de 99 mil, enquanto o Claude Sonnet 5.5 no modo medium produz cerca de 31 mil.

É importante observar que estamos falando de tokens de saída, ou seja, do raciocínio e da resposta. Eles normalmente custam mais que os tokens de entrada e também determinam o tempo de espera.

Por que isso importa na prática

Imagine que você esteja desenvolvendo um agente para processar tickets de suporte. O Modelo A custa metade do preço por token, mas consome quatro vezes mais tokens em cada ticket. No fim, ele custa o dobro e ainda responde de forma consideravelmente mais lenta. O usuário não vê a tabela de preços: vê os segundos de espera e a conta no fim do mês.

O mesmo vale para os limites: cadeias longas de raciocínio atingem mais rapidamente a janela de contexto e os limites de taxa do provedor. Fluxos agênticos, nos quais o modelo é chamado dezenas de vezes em sequência, multiplicam esse efeito.

Como lidar com isso

Primeiro, compare os modelos pelo custo de uma tarefa concluída, não pelo preço do token. A Artificial Analysis publica justamente esse tipo de recorte, embora o cenário possa ser diferente com seus próprios dados.

Segundo, verifique se é possível limitar o orçamento de raciocínio. Se o modelo oferecer modos ou parâmetros para controlar a profundidade do raciocínio, execute suas tarefas em vários níveis e identifique o ponto em que a qualidade deixa de melhorar.

Terceiro, inclua no monitoramento tanto a média quanto o p95 da quantidade de tokens de saída. É fácil não perceber um salto repentino após uma atualização da versão do modelo, mas ele aparecerá imediatamente no orçamento.

Limitações

A publicação não deixa claro quanto o resultado no Intelligence Index melhorou junto com o aumento no consumo de tokens. Se o ganho de qualidade for significativo, um consumo quatro vezes maior pode ser justificável em tarefas complexas. Caso contrário, trata-se apenas de um modelo mais prolixo. Além disso, esse é o valor médio de um benchmark, e suas tarefas podem se comportar de outra forma. A própria publicação teve poucas visualizações e apresenta apenas os números, sem explicar a metodologia, portanto vale consultar o panorama completo no site da Artificial Analysis.

Conclusão

O preço por token deixou de ser uma métrica confiável por si só. A eficiência no uso de tokens deve ser avaliada juntamente com a qualidade e a latência, sobretudo ao criar agentes ou pipelines de grande escala. Antes de migrar para o Inkling 2 Small, execute seu próprio conjunto de tarefas e compare o custo total e o tempo de resposta com o Sonnet 5.5 e o Gemini 3.8 Flash.