Together AI lança inferência garantida para modelos abertos com SLA de 99%

A Together AI em 8 de julho de 2026 apresentou Provisioned Throughput — um novo formato de inferência com capacidade reservada para modelos abertos, SLA garantido de 99% de uptime e preço baseado em tokens, semelhante às APIs fechadas.

O que é Provisioned Throughput e como funciona?

Até agora, empresas que trabalham com modelos de peso aberto escolhiam entre duas opções. A primeira — inferência serverless: conveniente e "pague pelo uso", mas sem garantias de throughput, tornando-a pouco confiável para cargas de produção. A segunda — GPUs dedicadas: previsível e com controle total, mas exige cálculos em GPU-horas, planejamento de capacidade e gerenciamento da pilha de inferência. Provisioned Throughput é o terceiro modelo.

Um cliente compra PTU (Unidades de Throughput Provisionado) — uma fração fixa de capacidade: quantidade garantida de tokens por minuto para um modelo específico, reservada exclusivamente para ele. Tokens de entrada, em cache e de saída detraem PTU com coeficientes diferentes, permitindo otimização de custos para o tráfego real. A API para Provisioned Throughput é idêntica à API para Inferência Serverless e Dedicada — você pode alternar sem alterar o código.

Parâmetros-chave do produto:

• Lançamento — 8 de julho de 2026, prazo mínimo de contrato — um mês
• Modelos disponíveis no lançamento — MiniMax M3 e GLM-5.2
• Regiões — América do Norte, EMEA e outras
• SLA — 99% de uptime
• Preço — $0,05 por PTU por minuto
• Economia — até 90% em comparação com Claude Opus 4.8 conforme listas de preços públicas

Por que modelos abertos estão deslocando APIs fechadas

A Together AI registra crescimento acentuado na demanda por modelos abertos: ao longo de nove meses, o volume de tokens através da API da empresa cresceu de 30 bilhões para mais de 400 trilhões por mês. Uma parcela significativa desse tráfego representa cargas de trabalho anteriormente executadas através de APIs fechadas de grandes laboratórios.

Empresas que migraram para modelos abertos relatam redução de 6–20 vezes nos custos de inferência. A razão principal — a capacidade de distribuir tarefas ao longo da "fronteira de Pareto": tarefas complexas vão para modelos poderosos, rotineiras — para modelos mais leves e baratos. Essa flexibilidade é exatamente o que é necessário para escalar agentes de IA: quando cada funcionário executa vários agentes paralelos para codificação, cálculos financeiros e automação — o orçamento de tokens torna-se um item de linha decidido no nível do conselho.

Provisioned Throughput aborda exatamente isso: capacidade previsível, preço claro e SLA — sem necessidade de contratar uma equipe de DevOps para gerenciar clusters de GPU.

O que isso significa

Provisioned Throughput fecha uma lacuna que existia há muito tempo no mercado de modelos abertos: capacidade previsível e SLA mantendo a simplicidade do preço baseado em tokens. Para equipes de IA que escalam cargas de trabalho de agentes, este é um caminho real das APIs fechadas para modelos abertos sem sacrificar a confiabilidade.

Perguntas Frequentes

Quais modelos estão disponíveis em

Provisioned Throughput agora?

No lançamento de 8 de julho de 2026, MiniMax M3 e GLM-5.2 estão disponíveis. A Together AI anunciou expansão para 40+ modelos selecionados para uso em produção — prazos não especificados.

Qual é o custo mínimo do contrato?

O prazo mínimo é um mês. O custo é determinado pelo número de PTUs: $0,05 por PTU por minuto. Cada PTU garante throughput fixo em tokens por minuto para o modelo selecionado — sem custos adicionais de infraestrutura.