Откуда берется физическое самообучение VLM: закон масштабирования LLM-агентов

Откуда берется физическое самообучение VLM: закон масштабирования LLM-агентов

Вопрос о том, почему некоторые Vision-Language модели лучше других справляются с физическими задачами и как именно они улучшаются с опытом, оставался неизученным. Международная команда из Galbot (авторы: Zekai Li, Jiayi Yu, Jinlu Zhang, Luyang Niu, Zekun Qi, Jun Zheng, Xuchuan Chen, Dairu Liu, Yintianrun Zhang, He Wang, Li Yi) опубликовала исследование, которое систематически разбирает механизмы физического рекурсивного самообучения в Vision-Language агентах.

Исследование вводит PhysRSI-eval — методологию количественной оценки физического RSI через пятимерную метрику. Вместо традиционного бинарного результата авторы измеряют пять аспектов обучения: • First-Attempt Performance — успешность на первой попытке • Efficiency — темп роста производительности • Success — финальная доля успешных попыток • Budget — количество потребленных взаимодействий • Improvement from Failure — способность учиться на ошибках

Экспериментальная установка и Physical Barrel Hypothesis

Авторы протестировали разные Vision-Language модели на 18 задачах манипуляции под одинаковым бюджетом взаимодействий. Анализ результатов привел к формулировке Physical Barrel Hypothesis: разные способности VLM лимитируют разные части процесса улучшения. Как объем бочки определяется самой короткой дощечкой, в агенте разные компоненты (визуальное понимание, логика планирования, точность управления) становятся узкими местами на разных этапах обучения.

Пятимерные метрики раскрыли скрытые различия: системы, близкие по средним баллам на публичных бенчмарках, могут сильно расходиться в профилях улучшения. Высокие итоговые баллы не гарантируют ни быстрого, ни эффективного прогресса — традиционные средние оценки скрывают важные различия в траекториях обучения.

Масштабирование и предсказуемость

Исследование подошло к масштабированию с двух углов. Observational scaling отвечает: можно ли предсказать относительную производительность VLM-агента в физических задачах из известных публичных способностей модели? Второй угол: прогнозировать поздний прогресс из раннего физического feedback — если в первых попытках агент показал определенный паттерн ошибок, можно ли предсказать дальнейшую траекторию?

Вместе эти две аналитики отвечают на основной вопрос: как быстро и как далеко может улучшиться агент?

Workspace interventions и архитектура опыта

Авторы провели эксперименты с манипуляцией условиями, чтобы понять, что остается от улучшения после вмешательства: • Удаление истории взаимодействий снижало успешность поздних раундов — история критична для обучения • Замораживание конфигурации рабочего пространства не разрушало полезность опыта на новых сценариях — опыт частично переносим • Три cross-task случая достигали успеха раньше при определенных условиях — мультизадачность ускоряет обучение

Ключевой вывод: адаптация к конкретной сцене и переиспользуемый опыт существуют параллельно, а не в конфликте.

Контекст в ландшафте recursive self-improvement

На Hugging Face указаны похожие работы, развивающие близкие идеи: • PhysEvo: Astra Can Act, Let It (2026) • Agent Plasticity: Measuring Self-Improvement Through Experience (2026) • SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness (2026) • Long-Horizon Scaling: How Model Capabilities Shape the Returns to Computation (2026) • HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? (2026) • AReaL-RSI: Adaptive Scaling and Coordination of Recursive Self-Improvement (2026) • RSIGym: A Flexible Environment for Recursive Self-Improvement (2026)

Проект доступен на physrsi-eval.github.io с полным кодом, данными и документацией.