CoworkEnv синтезирует среды для ИИ-коллег: 8B-модель выросла с 46,6 до 64,1 балла

Исследователи представили CoworkEnv — фреймворк, который синтезирует исполняемые обучающие среды для ИИ-коллег: агентов, работающих с инструментами, перепиской и меняющимся состоянием рабочего пространства. На этих средах обучили компактные модели PocketWorker. Qwen3-VL-8B-Instruct после SFT подняла средний балл на бенчмарке Claw-Eval с 46,6 до 64,1. Это плюс 17,5 пункта. На многоходовых задачах прирост составил 31,9 пункта.

Откуда берутся задачи

Агента-коллегу сложно обучать из-за самих данных. Ему нужны связные запросы, сервисные записи, интерфейсы инструментов и проверки, которые честно оценивают результат. Всё это должно работать вместе: письмо ссылается на запись в системе, запись меняется после действия агента, а проверка смотрит на итоговое состояние. Собирать такие наборы вручную долго и дорого.

CoworkEnv решает задачу генерацией. Фреймворк называют capability-guided: задачи строятся от требований рабочего процесса, то есть от того, что агент должен уметь. Дальше включается программная валидация с циклом исправления. Сгенерированные спецификации и поведение проверяющего кода прогоняются на исполнение, а найденные ошибки возвращаются на доработку. Среда, в которой оценщик ошибается или задачу нельзя решить, до обучения не доходит.

Полученные ресурсы используют двумя способами. Выполнения «учителя» превращаются в отобранные демонстрации для supervised fine-tuning. Взаимодействия «ученика» дают роллауты и награды для обучения с подкреплением.

Ключевые параметры

• Фреймворк: CoworkEnv, синтез исполняемых сред вместе с интерфейсами инструментов и проверками.
• Модели: семейство PocketWorker, базовая модель Qwen3-VL-8B-Instruct.
• Claw-Eval после SFT: средний балл вырос с 46,6 до 64,1.
• Multi-turn задачи: прирост 31,9 пункта.
• ClawMark: расширение только на SFT, подтверждает применимость к другим бенчмаркам для коллег-агентов.
• RL: сравнение конфигураций, различающихся обработкой награды и распределением заслуг (credit assignment).

Что показали цифры

Самая заметная цифра касается многоходовых задач. Там агенту нужно держать контекст между репликами и учитывать, что состояние рабочего пространства изменилось с прошлого шага. Прирост в 31,9 пункта почти вдвое превышает средний. Это согласуется с идеей авторов: синтетические среды учат именно координации и работе с динамическим состоянием, а не только вызову отдельных инструментов.

С RL осторожнее. Авторы сами называют результат предварительным: растущая обучающая награда свидетельствует, что построенные среды годятся для оптимизации политики. Это не доказывает, что RL дал выигрыш на внешних бенчмарках. В аннотации таких чисел нет. Сравнение вариантов обработки награды и credit assignment пока скорее инженерный разбор динамики обучения, чем итоговый рецепт.

Что взять в работу

Для команд, которые делают внутренних агентов, главный вывод в том, что ценность лежит в среде и её проверках. Модель на 8 миллиардов параметров можно заметно подтянуть демонстрациями из генерируемых и валидируемых задач. Петля «сгенерировал, исполнил, починил спецификацию» стоит перенять независимо от выбранной модели: она отсекает сломанные задачи и кривые оценщики до дорогого обучения.

Есть и оговорки. В аннотации нет объёма набора, сравнения с крупными моделями и стоимости генерации. Бенчмарки Claw-Eval и ClawMark не равны вашему реальному документообороту. Перед внедрением такой подход стоит проверить на собственных сценариях, особенно на многоходовых, где выигрыш заявлен максимальный. Источник — статья в Hugging Face Daily Papers.