Modelos open-weight processam 71,5% dos tokens do Vercel AI Gateway e levam 23% do orçamento

Os modelos abertos se firmaram em produção não só em volume, mas também em dinheiro. Segundo o Production Index de outubro da Vercel, os modelos open-weight processam 71,5% dos tokens no AI Gateway e recebem cerca de 23% dos gastos. Em junho, eles representavam um dólar a cada vinte; em setembro, quase um a cada quatro. Em agosto, os open-weight ultrapassaram pela primeira vez os modelos fechados em tokens, e agora o dinheiro vem atrás.

A Vercel enxerga dezenas de trilhões de tokens por mês circulando entre aplicações em produção e laboratórios. Trata-se de uma amostra de clientes de uma única plataforma, não do mercado inteiro. Em compensação, os dados vêm de fluxos reais de pagamento, e não de pesquisas de opinião.

O barato gera tokens, o caro gera receita

O crescimento dos open-weight vem das duas pontas da escala de preços. Os modelos baratos garantem o volume; os caros garantem o dinheiro. Sozinho, o DeepSeek-V4.1-Flash processou quase metade de todos os tokens de setembro, mas ficou com apenas 2,6% dos gastos. O preço do token dele é cerca de cinco vezes menor que a média dos open-weight.

O aumento dos gastos tem outra origem. Os modelos cujo token custa pelo menos quatro vezes mais que o token open-weight médio responderam por cerca de dois terços desse aumento. O líder é o Kimi K3: quase metade do aumento vem dele, embora tenha processado bem menos tokens que o DeepSeek-V4.1-Flash.

Principais números do índice de setembro:

• open-weight: 71,5% dos tokens, cerca de 23% dos gastos; a participação nos gastos mais que quadruplicou desde junho;
• o gasto total em setembro foi 13 vezes maior que o de dezembro (+1180%), e o preço médio do token ficou 47% menor;
• o gasto com modelos frontier cresceu 10 vezes desde dezembro, e com open-weight, mais de 70 vezes;
• 68% das equipes que aumentaram o orçamento com open-weight também o aumentaram com modelos fechados;
• mais de 40% das equipes que pagam por frontier gastaram com eles mais do que em agosto. É o maior valor do ano.

Os laboratórios frontier, portanto, não perdem em dinheiro. O que eles perdem é participação no orçamento do cliente. Uma empresa pode pagar mais a um laboratório e, ao mesmo tempo, entregar a ele uma fatia menor das suas cargas de trabalho. O Opus 5.5 ficou, nas duas primeiras semanas, com mais de um décimo dos dólares do gateway, o melhor resultado entre os lançamentos de setembro. O modelo Jev foi o de adoção mais rápida da história do gateway: 35% das equipes pagantes em duas semanas. Mesmo assim, ele respondeu por apenas 0,27% dos gastos. Muitos testaram, poucos migraram para ele.

A lealdade ao laboratório está caindo

Quase metade das equipes trocou em setembro o modelo mais usado. Quase um terço trocou o laboratório mais usado, recorde do índice. As trocas crescem há cinco meses seguidos.

O zoológico de modelos cresce junto com o volume. As equipes que processaram pelo menos 10 mi de tokens desde dezembro usam, em média, 15 modelos. Com 100 mi de tokens, a média é 26; com 1 bilhão, já chega a 42. O modelo vira uma peça intercambiável dentro de um investimento maior: prompts, avaliações, infraestrutura de apoio e dados permanecem, enquanto o motor por baixo é trocado.

Modelos chineses, faturas americanas

Uma frente separada do índice trata de geografia. Quase 70% dos gastos de setembro com modelos de origem chinesa passaram por provedores dos EUA. Em dezembro, eram menos de 10%. O laboratório chinês cria o modelo, e o provedor americano o executa e vende o acesso.

DeepSeek: 58% de todos os tokens do gateway, 6,6% dos gastos. Mais de quatro em cada cinco tokens foram servidos pela própria DeepSeek, mas dois de cada cinco dólares gastos com seus modelos foram para provedores americanos. No caso da Moonshot AI, criadora do Kimi, o quadro é outro: 3,6% dos tokens e 13,2% dos gastos, com nove em cada dez tokens servidos por provedores dos EUA.

O que mudar na arquitetura

Se o produto depende de um único modelo de um único fornecedor, isso já é um risco, e não uma simplificação. Um esquema prático: um modelo open-weight barato cuida das tarefas em massa (classificação, extração, rascunhos), e um modelo fechado caro ou um open-weight grande atua nas etapas complexas. Para esse roteamento, é preciso ter um conjunto próprio de avaliações, que rode em cada novo modelo em horas, e não em semanas.

Segundo: preveja no orçamento, ao mesmo tempo, a queda do preço do token e o aumento do volume. Os dados da Vercel mostram que os gastos crescem mais rápido do que a unidade fica barata. Terceiro: para modelos de laboratórios chineses, considere não só a qualidade, mas também a jurisdição do provedor. Os mesmos pesos podem chegar de lugares diferentes, com condições diferentes de tratamento de dados e de SLA.