Together AI lanza inferencia garantizada para modelos abiertos con un SLA del 99%

Together AI el 8 de julio de 2026 presentó Provisioned Throughput — un nuevo formato de inferencia con capacidad reservada para modelos abiertos, SLA garantizado del 99% de uptime y precios basados en tokens, similar a las APIs cerradas.

¿Qué es Provisioned Throughput y cómo funciona?

Hasta ahora, las empresas que trabajan con modelos de pesos abiertos elegían entre dos opciones. La primera — inferencia sin servidor: cómoda y de "pago por uso", pero sin garantías de rendimiento, lo que la hace poco confiable para cargas de producción. La segunda — GPU dedicadas: predecible y con control total, pero requiere cálculos en GPU-horas, planificación de capacidad y gestión de la pila de inferencia. Provisioned Throughput es el tercer modelo.

Un cliente compra PTU (Unidades de Throughput Provisionado) — una fracción fija de capacidad: cantidad garantizada de tokens por minuto para un modelo específico, reservada exclusivamente para ellos. Los tokens de entrada, almacenados en caché y de salida deducen PTU con coeficientes diferentes, permitiendo optimizar costos para el tráfego real. La API para Provisioned Throughput es idéntica a la API para Inferencia sin Servidor y Dedicada — puede cambiar sin alterar el código.

Parámetros clave del producto:

• Lanzamiento — 8 de julio de 2026, plazo mínimo de contrato — un mes
• Modelos disponibles en el lanzamiento — MiniMax M3 y GLM-5.2
• Regiones — América del Norte, EMEA y otras
• SLA — 99% de uptime
• Precio — $0,05 por PTU por minuto
• Ahorro — hasta 90% comparado con Claude Opus 4.8 según listas de precios públicas

Por qué los modelos abiertos desplazan a las APIs cerradas

Together AI registra un fuerte crecimiento en la demanda de modelos abiertos: en nueve meses, el volumen de tokens a través de la API de la empresa creció de 30 mil millones a más de 400 billones por mes. Una porción significativa de este tráfego representa cargas de trabajo anteriormente ejecutadas a través de APIs cerradas de grandes laboratorios.

Las empresas que migraron a modelos abiertos reportan reducciones de 6–20 veces en costos de inferencia. La razón principal — la capacidad de distribuir tareas a lo largo de la "frontera de Pareto": tareas complejas van a modelos potentes, tareas rutinarias — a modelos más ligeros y baratos. Esta flexibilidad es exactamente lo que se necesita para escalar agentes de IA: cuando cada empleado ejecuta varios agentes paralelos para codificación, cálculos financieros y automatización — el presupuesto de tokens se convierte en una partida decidida a nivel de junta directiva.

Provisioned Throughput aborda exactamente esto: capacidad predecible, precios claros y SLA — sin necesidad de contratar un equipo de DevOps para gestionar clústeres de GPU.

Lo que esto significa

Provisioned Throughput cierra una brecha que existía desde hace mucho en el mercado de modelos abiertos: capacidad predecible y SLA manteniendo la simplicidad de los precios basados en tokens. Para equipos de IA que escalan cargas de trabajo de agentes, esta es una ruta real desde APIs cerradas a modelos abiertos sin sacrificar la confiabilidad.

Preguntas Frecuentes

¿Qué modelos están disponibles en

Provisioned Throughput ahora mismo?

En el lanzamiento del 8 de julio de 2026, MiniMax M3 y GLM-5.2 están disponibles. Together AI anunció expansión a 40+ modelos seleccionados para uso en producción — plazos no especificados.

¿Cuál es el costo mínimo del contrato?

El plazo mínimo es un mes. El costo se determina por el número de PTUs: $0,05 por PTU por minuto. Cada PTU garantiza un rendimiento fijo en tokens por minuto para el modelo seleccionado — sin costos adicionales de infraestructura.