VICO учит VLM на переписываемых картинках: до +5,0% на новых задачах

Команда авторов препринта arXiv 2610.10782 предложила VICO, схему пост-обучения vision-language моделей, в которой вместе с самой моделью обучается и «переписчик» среды. На девяти мультимодальных бенчмарках по математическому и визуально обоснованному рассуждению VICO-8B превосходит базовую модель до +5,0% на задачах вне домена. Она обходит сильнейшие бейзлайны самоэволюции на 4,3% и бейзлайны с текстовым редактированием задач на 8,4%. С chart-специализированными RLVR-методами она остаётся на сопоставимом уровне, но использует в 16–160 раз меньше размеченных примеров.

Исходная проблема знакома всем, кто гонял RLVR (обучение с подкреплением на проверяемых наградах). Набор задач фиксирован, а модель растёт. Часть примеров становится тривиальной, часть так и остаётся нерешаемой, и полезный сигнал обучения схлопывается. Классическое лекарство — докупать разметку или вручную собирать новые данные. Авторы предлагают другое: менять среду вслед за актором.

Как устроен VICO

В контуре два обучаемых компонента. Первый — актор, то есть сама VLM. Второй — Environment-as-Rewriter (EnvRewriter). Он не трогает пиксели напрямую. Он редактирует проверяемые структуры, из которых получается изображение: графы сцен, таблицы данных под графиками, маски защищённых областей. Затем картинка перерисовывается заново.

Так ответ остаётся валидным по построению. Если в таблице графика поменяли значение, правильный ответ пересчитывается из той же таблицы, и человек не нужен. Награда для EnvRewriter считается по доле успешных решений актора (pass rate): редактор поощряется за задачи, которые лежат у границы текущих способностей модели, то есть не слишком лёгкие и не безнадёжные. Сложность непрерывно подтягивается к уровню актора.

Это отличает VICO от двух соседних подходов, с которыми авторы себя сравнивают. Самоэволюционные методы развивают модель на собственных данных. Ко-эволюция через текстовое редактирование меняет формулировки, а VICO перестраивает визуальную сторону задачи.

Что показывают цифры

Из аннотации известно следующее:

• 9 мультимодальных бенчмарков: математическое рассуждение и визуально обоснованное понимание;
• VICO-8B лучше базовой модели до +5,0% на out-of-domain задачах;
• +4,3% к сильнейшему self-evolution бейзлайну;
• +8,4% к бейзлайну с текстовой ко-эволюцией;
• паритет с chart-специализированными RLVR-методами при в 16–160 раз меньшем числе размеченных образцов;
• дополнительная человеческая разметка в цикле не используется.

Оговорки очевидны. Это препринт без независимой проверки, а «до +5,0%» означает максимум по бенчмаркам, а не средний прирост. В аннотации не названа базовая модель и ничего не сказано о вычислительной цене совместного обучения двух компонентов. Разброс «16–160 раз» тоже показывает, что экономия на разметке сильно зависит от конкретного конкурента.

Что попробовать командам

Главная идея переносится за пределы статьи: если у вас есть данные со структурным первоисточником (таблицы за графиками, сцены, схемы, разметка регионов), на них можно строить генератор задач с гарантированно верными ответами. Тогда вместо разового датасета получается управляемая среда.

Практический минимум выглядит так. Сначала нужно замерять распределение pass rate по обучающим примерам. Если большая часть задач сидит около 0 или около 1, статичный RLVR уже упёрся в потолок. Затем стоит выбрать узкий класс данных с проверяемой структурой, например графики, и протестировать редактор, который держит сложность в «рабочем окне» успехов. Наконец, оценивать результат нужно на out-of-domain наборах, ведь именно там авторы фиксируют основной выигрыш.

Ограничение тоже понятно. Подход требует изображений, которые можно честно перерисовать из структуры. Для произвольных фотографий без графа сцены или таблицы такой путь закрыт, и неясно, насколько VICO масштабируется на другие типы визуальных задач.