The Trinity улучшила обвязку ИИ-агента и добавила 9,8 пункта на новых задачах

Ваш агент второй раз идёт в уже проверенную комнату, забывает ограничение и тратит остаток бюджета на бесполезные вызовы. Покупать более сильную модель хочется сразу. Но сначала стоит проверить код вокруг неё: что сохраняется в памяти, какие наблюдения попадают в запрос и кто решает, что пора остановиться. The Trinity исследует автоматическое улучшение именно этого слоя.

По приведённым в материале результатам, модули первой итерации подняли средний балл на новых задачах с 37,45 до 47,26 — примерно на 9,8 пункта. Это полезный результат без изменения весов модели. Более эффектные 26,2 пункта тоже есть в таблицах, но включают дополнительные условия, которые сильно меняют смысл сравнения.

Агент пишет себе рабочие инструкции

Обвязка — это код, который превращает модель в действующего агента. Он подготавливает наблюдения, хранит историю, организует вызовы инструментов, проверяет ограничения и управляет повторными попытками. Даже хорошая модель будет буксовать, если этот код каждый раз теряет важную часть состояния.

Представьте лабиринт с воротами: пройти вперёд можно, а вернуться тем же путём уже нельзя. Агенту недостаточно найти короткий маршрут. Нужно запомнить положение ворот и заранее проверить обратную дорогу. В The Trinity такая ошибка становится поводом добавить соответствующий модуль в обвязку.

Система распределяет работу между тремя ролями одной замороженной модели. Evolver разбирает ошибки и предлагает изменения. Creator создаёт упрощённые тренировочные среды. Explorer проходит их и собирает траектории: последовательности наблюдений, решений и результатов. Отдельный программный хост проверяет среды и предложенные правки.

Задачи объединяются по необходимым способностям. Лабиринт и визуальная головоломка могут попасть в одну группу, если обе требуют точно читать наблюдения и помнить состояние. Под такие группы система создаёт небольшие миры, где нужную ошибку проще воспроизвести и разобрать, чем в длинной полноценной игре.

Почему прибавка в 26 пунктов требует пояснений

После четырёх итераций средний результат на 18 новых бенчмарках вырос с 37,45 до 63,61 балла. Однако верхняя оценка использует идеальный выбор обвязки: каждой задаче достаётся лучший вариант. Реальный роутер, которому приходится выбирать заранее по доступному описанию, получил 60,96 балла.

Есть и подготовка перед оценкой. Каждой обвязке дают пять попыток на соответствующем бенчмарке, затем опыт сжимают в сохранённые навыки. Подготовительные эпизоды не входят в итоговый зачёт. Поэтому результат нельзя читать как решение совершенно незнакомых задач с первого предъявления.

Сравнение первой итерации помогает разделить эффекты. Одни выученные модули дают около 9,8 пункта к базе, одни подготовленные навыки — около 11,2. Вместе они дают около 16,1. Аналогичного сравнения без подготовки для четвёртой итерации автор разбора в статье не нашёл.

Два физических робота в новой части тоже требуют отдельной оговорки: модули учились на симуляционных версиях этих же задач. Здесь проверяется перенос из симулятора в железо. А результат 60% означает шесть успешных эпизодов из десяти — масштаб эксперимента пока небольшой.

Что стоит забрать в свой продукт

Самое интересное сравнение касается тренировочных сред. При обучении непосредственно на бенчмарках дерево способностей почти не улучшило качество относительно одной общей обвязки, зато потребовало примерно втрое меньше токенов. Переход к самостоятельно созданным симуляциям добавил почти пять баллов на новых задачах, хотя увеличил расходы на обучение.

Для команды это повод начать с журнала повторяющихся сбоев. Если агент регулярно забывает условия возврата, создайте маленькую среду с такими условиями. Если нарушает ограничения инструмента, сделайте короткие проверяемые задания на этот сбой. Затем сравните изменённую обвязку с исходной на отложенных сценариях при одинаковом бюджете.

The Trinity даёт практическую гипотезу: часть ограничений агента можно исправить через память, проверки и тренировочные задачи. Но заявленный прирост стоит разбирать по составляющим: сколько дали сами модули, сколько — предварительные попытки, и насколько хорошо система выбирает подходящую обвязку в реальном запуске.