Рассуждающие модели думают над 2+3 в 20 раз дольше нужного, а над сложным ленятся

Языковые модели научились рассуждать перед ответом, и сразу возник вопрос, который знаком любому инженеру: сколько времени тратить на конкретную задачу? Шерлок Холмс с первого взгляда читал по рукам клиента его биографию, а для запутанного дела просил три трубки и пятьдесят минут тишины. Главное его умение в том, что он заранее знал, какой задаче что нужно. У моделей с этим пока плохо.

Передумывают простое

В декабре 2024 года исследователи Tencent AI Lab задали рассуждающим моделям элементарный вопрос «сколько будет 2+3». QwQ-32B-Preview нашла верный ответ за 39 токенов, но не остановилась: решила задачу ещё двенадцать раз разными способами и потратила 901 токен. В среднем модели нового поколения расходовали почти в двадцать раз больше токенов, чем обычные, чтобы прийти к тому же результату.

Дело не только в деньгах. Работа Meta и Еврейского университета, представленная на ICLR 2026, показала, что самая короткая цепочка рассуждений одной модели бывает точнее самой длинной на 34,5%. Точность растёт с длиной до некоторого порога, затем падает, и график похож на перевёрнутую букву U. Исследователи Anthropic добавили отвлекающую деталь в простую задачу про подсчёт фруктов, и чем дольше думали Claude Opus 4 и DeepSeek R1, тем чаще они ошибались. Бывает и так, что модель находит верный ответ, а потом сама себя от него отговаривает.

Недодумывают сложное

Зеркальная проблема проявилась, когда разработчики стали учить модели экономить. В феврале 2026 года Anthropic сделала адаптивное мышление режимом по умолчанию для Claude Opus 4.6: модель сама решает, думать ли над шагом. Весной программисты начали жаловаться, что Claude Code стал поверхностным: он выдумывал версии API Stripe, хэши коммитов и несуществующие пакеты. Борис Черни, создатель Claude Code, разобрал телеметрию и выяснил, что на тех шагах, где модель выдумывала факты, она не потратила на размышление ни одного токена. Там, где думала, отвечала верно. Это классическая задача про биту и мяч: быстрая система выдаёт правдоподобный ответ, а медленная не включается, потому что диспетчер счёл проверку лишней.

Обучить модель выбирать режим трудно. Во-первых, данные для быстрого и рассуждающего режимов сильно различаются, и при неаккуратном смешении выходит «посредственно в обоих направлениях», как сказал Цзюньян Линь из Qwen. Во-вторых, при обучении на наградах модель быстро залипает в одном режиме, который в среднем приносит больше награды.

Что пробуют

Метод Thinkless учит модель начинать ответ со слова «коротко» или «думать», отделяя награду за выбор режима от награды за качество. На алгебраических задачах рассуждение включалось в каждой четвёртой задаче, токенов уходило в 2,6 раза меньше, а точность падала меньше чем на процент. AdaptThink из Цинхуа принудительно отвечает без рассуждений на половине примеров. Модель на 1,5 млрд параметров стала тратить на 45–65% меньше токенов и немного прибавила в точности.

У индустрии выбор решался по-разному. Anthropic начала с ручного бюджета в Claude 3.7 Sonnet, перешла к адаптивному режиму, а в версиях 5.x мышление отключить нельзя, остаётся только уровень усилия. Alibaba сделала гибридный Qwen3, отказалась от него и разделила Instruct и Thinking, а в Qwen3.5 вернулась к гибриду. OpenAI в GPT-5 посадила невидимый роутер, который в день запуска сломался, и к осени 2026 года заменила Auto ползунком с уровнями от Instant до Extra High. DeepSeek объединила R1 и V3 в одну модель с режимами Non-Think, Think High и Think Max.

Что делать на практике

Если вы строите продукт на рассуждающих моделях, не полагайтесь на автоматический выбор глубины вслепую. Для задач, где цена ошибки высока (вызовы API, работа с кодом, фактология), фиксируйте высокий уровень усилия и проверяйте, что модель действительно рассуждает на критичных шагах. Для простых запросов, наоборот, ставьте быстрый режим: так вы экономите токены и время, а заодно избегаете лишних сомнений. И измеряйте оба перекоса, потому что модель может ошибаться и от избытка размышлений, и от их недостатка.