Modelos abertos com garantia de 99%: Together AI lança inferência reservada

Os modelos de IA abertos agora têm inferência confiável: em 8 de julho, a Together AI apresentou o Provisioned Throughput, com garantia de 99% de uptime e capacidade reservada.

O que é o Provisioned Throughput e como ele funciona?

Até agora, as empresas que trabalham com modelos de pesos abertos precisavam escolher entre duas opções. A primeira é a inferência serverless: prática e com cobrança por uso, mas sem garantia de vazão, o que a torna pouco confiável para cargas de produção. A segunda são as GPUs dedicadas: previsíveis e com controle total, mas exigem cobrança em horas de GPU, planejamento de capacidade e gerenciamento da stack de inferência. O Provisioned Throughput é um terceiro modelo.

O cliente adquire PTUs (Provisioned Throughput Units), uma fração fixa de capacidade: um número garantido de tokens por minuto para um modelo específico, reservado exclusivamente para ele. Tokens de entrada, em cache e de saída consomem PTUs com coeficientes diferentes, o que permite otimizar os custos conforme o tráfego real. A API do Provisioned Throughput é idêntica à do Serverless e do Dedicated Inference, então é possível migrar sem alterar o código.

Principais parâmetros do produto:

• Lançamento: 8 de julho de 2026; prazo mínimo de contrato de um mês
• Modelos disponíveis no início: MiniMax M3 e GLM-5.2
• Regiões: América do Norte, EMEA e outras
• SLA: 99% de uptime
• Preço: US$ 0,05 por PTU por minuto
• Economia: até 90% em relação ao Claude Opus 4.8, pelas tabelas de preços públicas

Por que os modelos abertos estão tirando espaço das APIs fechadas

A Together AI registra um salto na demanda por modelos abertos: em nove meses, o volume de tokens pela API da empresa passou de 30 bilhões para mais de 400 trilhões por mês. Uma parcela significativa desse tráfego são cargas que antes rodavam nas APIs fechadas dos grandes laboratórios.

Empresas que migraram para modelos abertos relatam redução de 6 a 20 vezes nos custos de inferência. O principal motivo é a possibilidade de distribuir as tarefas pela «fronteira de Pareto»: as complexas vão para modelos potentes e as de rotina para modelos mais leves e baratos. Essa flexibilidade é necessária para escalar agentes de IA: quando cada funcionário tem vários agentes em paralelo para programação, cálculos financeiros e automação, o orçamento de tokens vira uma linha definida no nível do conselho de administração.

O Provisioned Throughput atende justamente a isso: capacidade conhecida de antemão, preço claro e SLA, sem precisar contratar uma equipe de DevOps para manter clusters de GPU.

O que isso significa

O Provisioned Throughput fecha uma lacuna que existia havia muito tempo no mercado de modelos abertos: capacidade previsível e SLA, mantendo a simplicidade da cobrança por tokens. Para equipes de IA que escalam cargas agênticas, é uma rota real das APIs fechadas para os modelos abertos sem perder confiabilidade.

Perguntas frequentes

Quais modelos estão disponíveis no

Provisioned Throughput agora?

No lançamento, em 8 de julho de 2026, estão disponíveis MiniMax M3 e GLM-5.2. A Together AI anunciou a ampliação para mais de 40 modelos selecionados para uso em produção, mas não informou prazos.

Quanto custa o contrato mínimo?

O prazo mínimo é de um mês. O custo depende do número de PTUs: US$ 0,05 por PTU por minuto. Cada PTU garante uma vazão fixa em tokens por minuto para o modelo escolhido, sem custos adicionais de infraestrutura.

Como usar modelos abertos com confiabilidade em produção?

Antes era preciso escolher entre a inferência serverless, sem garantia de vazão, e as GPUs dedicadas. O Provisioned Throughput da Together AI oferece um terceiro caminho: capacidade reservada com garantia de 99% de uptime e cobrança por tokens, como nas APIs fechadas.