StartLux-Decision сокращает среднюю цепочку рассуждений на 65%

Большинство рабочих агентов тратит вычисления довольно нелепо: одинаково долго размышляет и над сложным выбором стратегии, и над вопросом, можно ли вызвать следующий инструмент. StartLux-Decision предлагает более практичную схему. Модель сначала оценивает вероятности допустимых вариантов. Если один ответ достаточно убедителен, она отдаёт его за один проход. Если уверенности не хватает, включает короткое рассуждение и повторяет оценку.

Простой пример — агент, который решает, принимать ли результат выполненной задачи. Ему передают журнал действий, требования и два варианта: «принять» или «вернуть на доработку». Если все проверки зелёные и критерии выполнены, длинный внутренний монолог не нужен. Когда один тест упал, а правила допускают исключения, модель может потратить дополнительные токены, проверить условия и только затем выбрать ответ. Разработчик управляет этим поведением через порог уверенности.

Один интерфейс для быстрых и сложных решений

Семейство состоит из моделей размером от 0,8 до 27 млрд параметров. Instant всегда отвечает за один проход. AutoThink сравнивает максимальную вероятность с заданным порогом: при достаточной уверенности отвечает сразу, иначе генерирует рассуждение и заново вычисляет вероятности вариантов.

На вход подаются состояние задачи, тип вопроса и допустимые ответы. На выходе получается не только выбранный вариант, но и распределение вероятностей. Поддерживаются выбор из списка, ответ «да или нет» и оценка по шкале. Такой контракт удобен для маршрутизации запросов, проверки результатов, допуска к инструментам и других узких решений, где свободный текст скорее мешает.

По данным авторов, Instant опережает сопоставимые открытые модели на 7,4–16,9 пункта в публичной части Decision Index 0.3. Модель AutoThink на 27 млрд параметров набрала 73,37 пункта. На DecisionPivot, где пары заданий отличаются одной решающей деталью, AutoThink прибавляет 11,5–18,4 пункта к результатам Instant. Это именно баллы конкретных тестов, а не универсальная точность системы.

Как модель учат вовремя останавливаться

Простого переключателя «думай» оказалось недостаточно. В ранних экспериментах модель на 4 млрд параметров почти не рассуждала примерно в 40% случаев. Версия на 9 млрд, наоборот, примерно в 70% случаев продолжала генерировать текст до ограничения длины. То есть одна модель преждевременно принимала решение, а другая расходовала бюджет, не замечая, что полезная работа уже закончена.

Для AutoThink авторы разработали RLCD² — обучение с подкреплением, которое оценивает, насколько рассуждение улучшило вероятностный прогноз. Если после разбора правильный вариант получает более качественную вероятность, модель получает награду. За чрезмерно длинные цепочки вводится мягкий штраф. В результате средняя длина рассуждений сократилась до 65%, а доля цепочек, завершившихся до достижения лимита, выросла до 48 процентных пунктов при небольшом изменении качества решений.

Что брать в продукт

Главная идея здесь полезнее конкретной модели: вычислительный бюджет стоит распределять по неопределённости запроса. Для агента можно оставить быстрый путь для очевидных решений и включать дорогой разбор лишь возле границы уверенности. Это особенно уместно в маршрутизации, проверке политик, выборе инструмента и автоматической приёмке задач.

Но вероятность модели нельзя считать готовой гарантией. Порог зависит от данных, цены ошибки и требований к задержке. На опубликованных тестах снижение порога AutoThink с 90% до 60% заметно уменьшало долю запросов с рассуждением, но ухудшало результат на задачах, чувствительных к правилам и вычислениям. Квантизация тоже способна снизить качество: для одной из конфигураций Q4_K_M потеря достигала 4,3 пункта.

Практический путь простой: собрать журнал реальных решений, разделить ошибки по стоимости, измерить калибровку вероятностей и подобрать порог отдельно для каждого сценария. В критических действиях низкая уверенность должна вести не только к дополнительному рассуждению, но и к проверке кодом, второму классификатору или человеку. StartLux-Decision показывает хорошую архитектурную заготовку, однако безопасным продуктом её делает не название модели, а проверенный контур принятия решений.