Google запускает Gemini Decisions API: до 1000 проверок за один запрос

Агент получил обращение клиента: ответить самому, поискать информацию или передать задачу оператору? Для такого выбора разработчики часто вызывают обычную языковую модель, ждут ответ и разбирают полученный JSON. Google представила Gemini Decisions API — отдельный сервис, который оценивает заранее заданные варианты без последовательной генерации текста. По данным компании, задержка составляет 150–250 мс, а цена — $0,10 за миллион входных токенов. Для команды это повод проверить, сколько времени и денег в продукте уходит именно на промежуточные решения.

Один документ, много проверок

API работает на новой модели Gemini Decision 1. Разработчик передаёт общие входные данные и набор независимых вопросов. Сервис поддерживает текст, изображения, аудио, видео и PDF: например, можно совместить запись разговора с данными аккаунта или скан заявления с фотографиями повреждённого товара.

Представим сервис возвратов интернет-магазина. Покупатель прислал фотографию разбитой кружки и написал, что упаковка была целой. Одним запросом можно проверить наличие видимого повреждения, выбрать следующий шаг из предложенных вариантов и оценить тяжесть проблемы по заданной шкале. Общие материалы передаются один раз, а ответы приходят вместе с вероятностями.

Предусмотрены три формата: проверка «да или нет», выбор из 2–255 вариантов и оценка по упорядоченной шкале. В последнем случае сервис возвращает взвешенную оценку и вероятности отдельных уровней. Всего запрос может содержать до 1000 вопросов, а входной контекст — до 256 тысяч токенов.

Практический смысл здесь в сокращении повторной работы. Если один документ нужно проверить по нескольким правилам, не обязательно отправлять его в отдельный генеративный вызов для каждого правила. При этом вопросы должны быть независимыми: цепочку, где следующий шаг определяется предыдущим ответом, всё равно придётся организовать в коде.

Что означают скорость и цена

Google заявляет 50–100 мс непосредственно на вычисления модели и 150–250 мс полной задержки. Но границы измерений существенны: эти показатели приведены для контекстов до 16 тысяч токенов. Почти неизменное время обработки компания отмечает при увеличении числа вопросов с одного до ста. Переносить эти цифры на максимальные 1000 вопросов и весь доступный контекст оснований пока нет.

Общий вход оплачивается один раз за запрос. Каждый вопрос добавляет токены собственных инструкций и критериев. Выходные токены не тарифицируются; отдельно оплачиваемых токенов размышления также нет. По заявленному тарифу обработка 10 тысяч входных токенов обойдётся в $0,001, если это полный оплачиваемый объём запроса.

Компания также сообщает, что на её наборе сравнительных тестов сервис почти в пять раз дешевле Gemini 3.5 Flash-Lite через Interactions API. Это результат конкретного сравнения. В своём приложении придётся учитывать размер инструкций, состав файлов и число повторных обращений. Для изображений и видео можно менять детализацию, влияя на объём токенов и стоимость.

Вероятность помогает выбрать запасной путь

Главная прикладная деталь — вероятности ответов. Например, команда может автоматически обрабатывать очевидные возвраты, а неоднозначные отправлять оператору. Порог уверенности нужно подбирать на собственных примерах: заявленная Google хорошая калибровка ещё не показывает, насколько надёжно сервис будет оценивать фотографии именно ваших товаров.

Есть и ограничение самой постановки задачи. Если среди предложенных действий отсутствует правильное, выбор победителя проблему не решит. Для рабочих сценариев стоит предусмотреть вариант передачи человеку или дополнительной проверки. Проверки безопасности тоже требуют отдельных испытаний: Google упоминает использование API для защиты MCP-инструментов в Search, но в предоставленном анонсе нет подробных метрик, позволяющих оценить этот сценарий.

Начать можно через Google AI Studio; заявлены бесплатный уровень для прототипов и руководства для Python, JavaScript и REST. Разработчику разумно взять одну существующую задачу маршрутизации или классификации и сравнить качество, задержку и стоимость на реальных данных. Если промежуточные вызовы занимают заметную часть времени работы агента, такой эксперимент даст понятный ответ о пользе нового API.