Google выпустила Gemini Decision 1: ответ за 150–250 мс и $0.10 за 1M токенов

Знакомая боль: вы строите агента, и половина его вызовов к большой модели — это не рассуждения, а рутина. «Это спам или нет?», «какой инструмент вызвать?», «есть ли в этом логе ошибка?». Платить за генерацию текста токен за токеном ради ответа «да» или «вариант C» расточительно и медленно. Google решила эту проблему отдельным классом моделей.

Что именно запустили

Gemini Decision 1 — это «модель решений». Она работает с закрытым набором вариантов: вы даёте вопрос и список ответов, а она за один проход оценивает каждый вариант. Текст по токенам не генерируется. К каждому ответу прилагается оценка уверенности (calibrated confidence).

Поддерживаются три режима: да/нет, выбор из вариантов (до 255 штук) и оценка по рубрике. На вход можно подавать текст, изображения, аудио, видео и PDF. В один запрос помещается до 1000 вопросов при контексте 256K. Сквозная задержка составляет 150–250 мс.

Цена: $0.10 за миллион входных токенов, выходные не тарифицируются. Google называет это примерно в 5 раз дешевле Flash-Lite. По словам Фила Шмида, проект начался как внутренний прототип DeepMind, и небольшая команда довела его до модели и API примерно за шесть недель.

Как это выглядит на примере

Представьте поддержку, которая получает тысячи обращений в час. Раньше вы просили LLM «определи категорию и срочность и напиши ответ в JSON». Теперь отправляете пачку вопросов вида «это жалоба на оплату?», «клиент зол?», «нужен человек?» и получаете ответы с уверенностью. Если уверенность ниже порога, обращение уходит человеку или большой модели.

Такую схему показала на AI Engineer Cloudflare. Быстрые модели решений выбирают инструменты и вытаскивают нужные строки из логов, а крупная reasoning-модель подключается только для диагноза. В демо с падением сборки шесть вызовов LLM превратились в один, а расход упал с примерно 40K токенов до 1.8K. LangChain добавил поддержку Decision 1 в день релиза с общим базовым классом для классификаторов TypeSafe, так что подключить её к существующему пайплайну несложно.

Что говорят независимые тесты

Собственные бенчмарки Google выглядят убедительно: Decision 1 обходит конкурента Jev 1.14 от TypeSafe в 5 из 7 общих тестов, например 92.2% против 90.0% на JevBench. Но Artificial Analysis картину охлаждает.

• В сводном Decision Index модель набрала 66 баллов. Это на уровне Elephant 9B и Jev 1.14 и на 7 пунктов ниже Drex Max v1.1 и GLiDE v1.2.
• Лидерство есть в AA-Omniscience-Decision (66) и HLE-MultiChoice (49).
• В AA-Paperclip модель отвечает безошибочно на всех вопросах лишь по 33% документов, у Drex Max этот показатель 63%.
• Цена за 1M задач составляет $345 против $103 у Drex Max и $156 у Jev.
• Среднее время на задачу — 211 мс, у Jev — 92 мс.

Дешёвый входной тариф не означает дешёвую задачу: по расчёту AA, стоимость реальной работы выше, чем у нескольких конкурентов. А по скорости Jev почти вдвое быстрее. Преимущество Gemini Decision 1 — мультимодальность и большое окно на 1000 вопросов в запросе, а не абсолютное качество.

Что с этим делать

Разработчикам. Найдите в своём агенте вызовы, где ответ — это выбор из конечного списка: роутинг, выбор инструмента, фильтры, извлечение из логов. Их стоит пустить через модель решений, а дорогую LLM оставить для настоящих рассуждений. Пороги уверенности помогут решить, когда эскалировать.

Продактам. Считайте стоимость задачи, а не цену за токен. Прогоните свой датасет через Decision 1, Jev и Drex и сравните точность, задержку и итоговую цену на ваших данных. Бенчмарки поставщиков здесь не помощник, как и всегда.

Основателям. Рынок «решающих» моделей только формируется, и Google вошла в него одновременно с TypeSafe, у которой уже есть платящие клиенты. Стоит ждать ценовой войны и быстрого появления новых конкурентов.

Ограничения очевидны: модель не заменит генерацию, в закрытых наборах вариантов она хороша, но на сложных документах заметно уступает лучшим конкурентам. Данные пока в основном от Google и одной независимой лаборатории, так что решение лучше принимать после собственного теста.