Timeweb Cloud добавил в AI Gateway видеомодели, лимиты в рублях и резервные модели

Счёт за ИИ обычно растёт тихо. Кто-то подключил дорогую модель к тестовому скрипту, кто-то забыл остановить цикл, а в конце месяца выясняется, что бюджет квартала сгорел за две недели. Октябрьский дайджест Timeweb Cloud — это в первую очередь продуктовые заметки самого провайдера, и читать их нужно с поправкой на это. Но в них есть набор вещей, которые бьют ровно в эту боль.

Один ключ на текст, картинки и видео

AI Gateway — единая точка входа к моделям разных вендоров. В октябре в неё добавили видео. Провайдер называет Veo 3.1 от Google (ролик сразу со звуком), Kling от Kuaishou (сцена из нескольких планов с одним героем), Seedance от ByteDance, Gen-4.5 от Runway для анимации фото товара, Hailuo от MiniMax для вертикальных роликов и Wan от Alibaba для длинных видео. Для картинок прибавились Seedream 5 и Gen-4 Image.

Схема простая. Вы отправляете промпт и, если нужно, картинку, через несколько минут забираете готовый ролик. Картинки приходят сразу, до четырёх за запрос. Чтобы сменить модель, достаточно поменять её название в запросе. Видео оплачивается за секунды готового ролика.

Представьте команду маркетплейса, которой нужно оживлять карточки товаров. Раньше это шесть разных SDK, шесть ключей и шесть биллингов. Теперь один код интеграции, а сравнение моделей сводится к смене строки в запросе. Кроме видео, в каталоге появились ещё 20 моделей: текстовые, эмбеддинги, реранкеры, распознавание и синтез речи. У каждой есть карточка с ценой, калькулятором, контекстом и информацией о том, где и кем обрабатываются данные.

Как не получить сюрприз в счёте

Главная практическая часть — контроль расходов:

• Дашборд «Активность» собирает расходы, запросы и токены по всем ключам и агентам. Видно, кто тратит больше всех и какие запросы можно перевести на более дешёвую модель.
• Логи запросов показывают модель, токены, стоимость и статус по каждому вызову.
• Суточные лимиты в рублях задаются на ключ или агента, плюс отдельные лимиты по моделям. При 80% расхода приходит уведомление, при 100% новые запросы перестают проходить.
• Batch API принимает до 50 000 запросов за раз и возвращает ответы файлом в течение 24 часов. Токены стоят вдвое дешевле.
• Резервные модели: к ключу можно привязать до двух запасных. Если основная не ответила, запрос уйдёт на следующую, а платить придётся только за ту, что ответила.

Пример из жизни: ночная разметка 40 000 отзывов не требует мгновенного ответа, поэтому её логично отправить через Batch и сэкономить половину. А чат поддержки остаётся на быстрой основной модели с двумя запасными, чтобы сбой одного вендора не положил продукт.

Что ещё в дайджесте

У AI-агентов появилась долговременная память: они сохраняют факты из переписки, а содержимое видно во вкладке «Память», где его можно поправить или удалить. App Platform теперь поднимает отдельный стенд на каждый pull request и удаляет его после закрытия. В Kubernetes добавили приватные кластеры и коннектор, который сам выпускает и обновляет ключ AI Gateway как секрет. Выделенные серверы получили 47 конфигураций с GPU, от RTX 4090 до H100 и H200, а также бэкапы в ваш S3 с защитой от удаления. Остальное, от доменов до навигации в панели, интересно в основном действующим клиентам.

Ограничения и вывод

Обратите внимание на три момента. Во-первых, это самоописание вендора: список моделей, цены и доступность стоит проверять в каталоге, а не по дайджесту. Во-вторых, сервис ориентирован на российский рынок, с расчётами в рублях и локальной инфраструктурой, и подойдёт не всем командам. В-третьих, жёсткий лимит, при котором запросы просто перестают проходить, защищает бюджет, но может остановить прод. Ставьте его с запасом и обязательно настройте уведомление на 80%.

Вывод для практики: если вы ходите к нескольким моделям через разные ключи, посмотрите на шлюз как на слой контроля. Единые логи, лимиты, пакетная обработка и фолбэки полезны независимо от того, у какого провайдера вы их получите.