Inkling 2 Small тратит 150K токенов на задачу — в 4 раза больше предшественника

Когда выбираешь модель для продакшена, первым делом смотришь на прайс за миллион токенов. Это удобная, но обманчивая метрика. Свежие данные Artificial Analysis хорошо показывают почему.

Что показали замеры

При прогоне Intelligence Index модель Inkling 2 Small в среднем генерирует около 150 тысяч выходных токенов на одну задачу. У предыдущего Inkling Small этот показатель был около 37 тысяч, то есть рост примерно в четыре раза. Для сравнения: Gemini 3.8 Flash в режиме high выдаёт порядка 99 тысяч, а Claude Sonnet 5.5 в режиме medium около 31 тысячи.

Важно, что речь идёт о выходных токенах, то есть о рассуждениях и ответе. Именно они обычно стоят дороже входных и именно они определяют время ожидания.

Почему это важно на практике

Представьте, что вы делаете агента, который разбирает тикеты поддержки. Модель А стоит вдвое дешевле за токен, но тратит в четыре раза больше токенов на каждый тикет. В итоге она обходится вдвое дороже, а отвечает ещё и заметно медленнее. Пользователь видит не прайс, а секунды ожидания и счёт в конце месяца.

То же касается лимитов: длинные цепочки рассуждений быстрее упираются в контекстное окно и в ограничения по скорости у провайдера. Агентные сценарии, где модель вызывается десятки раз подряд, усиливают эффект кратно.

Как с этим жить

Первое: сравнивайте модели по стоимости выполненной задачи, а не по цене токена. Artificial Analysis как раз публикует такие разрезы, но на собственных данных картина может отличаться.

Второе: проверьте, можно ли ограничить бюджет рассуждений. Если у модели есть режимы или параметры глубины мышления, прогоните свои задачи на нескольких уровнях и посмотрите, где качество перестаёт расти.

Третье: закладывайте в мониторинг средние и p95 по числу выходных токенов. Резкий скачок после обновления версии модели легко пропустить, а в бюджете он проявится сразу.

Ограничения

Из поста неясно, насколько вырос результат в Intelligence Index вместе с расходом токенов. Если прирост качества существенный, четырёхкратный расход может быть оправдан для сложных задач. Если нет, это просто более словоохотливая модель. Кроме того, это среднее по бенчмарку, а ваши задачи могут вести себя иначе. Сам пост набрал немного просмотров и содержит только цифры без методики, так что полную картину стоит смотреть на сайте Artificial Analysis.

Вывод

Цена за токен перестала быть честной метрикой. Токен-эффективность стоит считать наравне с качеством и задержкой, особенно если вы строите агентов или массовые пайплайны. Перед миграцией на Inkling 2 Small стоит прогнать собственный набор задач и сравнить итоговую стоимость и время ответа с Sonnet 5.5 и Gemini 3.8 Flash.