Together AI запустила гарантированный инференс для открытых моделей с SLA 99%

Together AI 8 июля 2026 года представила Provisioned Throughput — новый формат инференса с зарезервированными мощностями для открытых моделей, гарантированным SLA 99% uptime и токенной моделью оплаты, аналогичной закрытым API.

Что такое Provisioned Throughput и как это работает?

До сих пор компании, работающие с открытыми весовыми моделями, выбирали между двумя вариантами. Первый — serverless-инференс: удобно и «плати за использование», но без гарантий по пропускной способности, что делает его ненадёжным для продакшен-нагрузок. Второй — выделенные GPU: предсказуемо и с полным контролем, но требует расчётов в GPU-часах, планирования мощностей и управления стеком инференса. Provisioned Throughput — третья модель.

Клиент приобретает PTU (Provisioned Throughput Units) — фиксированную долю мощности: гарантированное количество токенов в минуту для конкретной модели, зарезервированное исключительно за ним. Входящие, кешированные и исходящие токены списывают PTU с разным коэффициентом, что позволяет оптимизировать расходы под фактический трафик. API для Provisioned Throughput идентичен API для Serverless и Dedicated Inference — переключиться можно без изменения кода.

Ключевые параметры продукта:

• Запуск — 8 июля 2026 года, минимальный срок контракта — один месяц
• Доступные модели на старте — MiniMax M3 и GLM-5.2
• Регионы — Северная Америка, EMEA и другие
• SLA — 99% uptime
• Цена — $0,05 за PTU в минуту
• Экономия — до 90% по сравнению с Claude Opus 4.8 по публичным прайс-листам

Почему открытые модели вытесняют закрытые API

Together AI фиксирует резкий рост спроса на открытые модели: за девять месяцев объём токенов через API компании вырос с 30 миллиардов до более чем 400 триллионов в месяц. Значительная часть этого трафика — рабочие нагрузки, которые раньше выполнялись через закрытые API крупных лабораторий.

Компании, перешедшие на открытые модели, сообщают о снижении расходов на инференс в 6–20 раз. Главная причина — возможность распределять задачи по «границе Парето»: сложные задачи достаются мощным моделям, рутинные — более лёгким и дешёвым. Именно эта гибкость необходима для масштабирования AI-агентов: когда у каждого сотрудника работают несколько параллельных агентов для кодинга, финансовых расчётов и автоматизации — токенный бюджет становится строкой, которую задают на уровне совета директоров.

Provisionned Throughput адресует именно это: заранее известная мощность, понятный прайс и SLA — без необходимости нанимать DevOps-команду для сопровождения GPU-кластеров.

Что это значит

Provisionned Throughput закрывает пробел, который долго существовал на рынке открытых моделей: предсказуемость мощностей и SLA при сохранении простоты токенной оплаты. Для AI-команд, масштабирующих агентные рабочие нагрузки, это реальный маршрут с закрытых API на открытые модели без потери надёжности.

Частые вопросы

Какие модели доступны в Provisioned Throughput прямо сейчас?

На момент запуска 8 июля 2026 года доступны MiniMax M3 и GLM-5.2. Together AI анонсировала расширение до 40+ моделей, отобранных для продакшен-использования, — сроки не указаны.

Сколько стоит минимальный контракт?

Минимальный срок — один месяц. Стоимость определяется количеством PTU: $0,05 за PTU в минуту. Каждый PTU гарантирует фиксированную пропускную способность в токенах в минуту для выбранной модели — без дополнительных расходов на инфраструктуру.