Google выпустила Gemini Decision 1: решения через API за $0,10 за миллион токенов

Покупатель пишет: «Заказ приехал разбитым, хочу вернуть деньги». Приложению нужно определить тему обращения и отправить его нужному сотруднику. Google выпустила Gemini Decision 1 для подобных развилок: модель возвращает оценки, на основе которых код выбирает дальнейшее действие. Практический повод присмотреться — автоматизация сортировки заявок, проверки контента и других повторяющихся решений внутри продукта.

В Telegram новинку назвали конкурентом Jev. Это понятная отправная точка для обсуждения, но выбирать инструмент по такому сравнению рано: команде всё равно придётся проверить качество на собственных обращениях и посчитать стоимость рабочего процесса.

Что получает разработчик

В документации Decisions API описаны три режима: проверка условия, выбор из заданных вариантов и оценка по шкале. Ответ содержит значения, пригодные для обработки в программе, включая вероятности и уверенность модели. Текстовые токены на выходе не генерируются.

Для условного магазина можно сформулировать отдельные проверки: сообщает ли клиент о повреждении, просит ли возврат, достаточно ли сведений для обработки заявки. Затем обычный код объединяет результаты. Допустим, обращение явно связано с повреждением, но в нём нет номера заказа. Следующим действием может стать запрос недостающих данных.

Здесь полезно разделить понимание сообщения и полномочия системы. Определить тему обращения — одна задача. Разрешить возврат денег — другая, со своими правилами. В предлагаемой схеме модель помогает разобрать входящий поток, а условия денежных операций команда задаёт отдельно. Так проще понять, на каком именно этапе возникла ошибка, и исправить конкретное правило.

Сколько стоит такая развилка

В официальном прайсе Google указано $0,10 за миллион входных токенов. Поддерживаются текст, изображения, аудио, видео и PDF. Общие входные данные внутри запроса оплачиваются один раз, независимо от количества вопросов. При этом инструкции и критерии каждого вопроса добавляют собственные токены.

Поэтому формулировку «без дополнительных платежей» из исходного поста лучше читать осторожно: отсутствие выходных токенов не делает дополнительные инструкции бесплатными. Если команда отправляет длинные критерии для каждой проверки, их объём тоже нужно учитывать в расчёте.

Возьмём условный объём: десять миллионов оплачиваемых входных токенов по этому тарифу обойдутся в один доллар. Это арифметический пример стоимости API. Полный бюджет продукта будет включать разработку интеграции, хранение результатов, обработку сбоев и работу сотрудников со спорными обращениями. Продакту полезно считать стоимость одной правильно обработанной заявки: эта метрика связывает цену модели с результатом для бизнеса.

Есть бесплатный тариф. В таблице Google указано, что его данные могут использоваться для улучшения продуктов; для платного тарифа указано обратное. Это существенная разница при выборе данных для пилота.

Как проверить пользу до внедрения

Начать стоит с одного понятного процесса, например распределения обращений по отделам. Соберите исторические заявки с проверенными ответами сотрудников и прогоните их через модель. Заранее выделите неоднозначные сообщения: несколько проблем в одном письме, сарказм, неполные сведения, просьбы, которые не подходят ни одному отделу.

Измеряйте отдельно неверные назначения и долю обращений, которые пришлось передать человеку. Высокая уверенность модели сама по себе ещё не доказывает качество на вашей выборке. Для выбора из категорий документация также предупреждает: вероятности распределяются между предложенными вариантами, даже когда подходящего среди них нет. Поэтому предусмотрите категорию «другое» и маршрут ручной проверки.

Следующий шаг — запустить обработку параллельно с сотрудниками, сохраняя привычный порядок работы. Это позволит увидеть расхождения до включения автоматических действий. Затем можно постепенно доверять системе самые понятные случаи и отслеживать, сколько времени она действительно экономит.

Gemini Decision 1 заслуживает такого пилота, если в продукте уже есть поток однотипных решений. Основание для внедрения появится тогда, когда проверка покажет приемлемую частоту ошибок и снижение затрат на обработку.