D'où vient l'auto-apprentissage physique des VLM : la loi d'échelle des agents LLM

Откуда берется физическое самообучение VLM: закон масштабирования LLM-агентов

La question de savoir pourquoi certains modèles Vision-Language s'en sortent mieux que d'autres sur des tâches physiques, et comment exactement ils progressent avec l'expérience, restait inexplorée. Une équipe internationale de Galbot (auteurs : Zekai Li, Jiayi Yu, Jinlu Zhang, Luyang Niu, Zekun Qi, Jun Zheng, Xuchuan Chen, Dairu Liu, Yintianrun Zhang, He Wang, Li Yi) a publié une étude qui décortique systématiquement les mécanismes d'auto-amélioration récursive physique dans les agents Vision-Language.

L'étude introduit PhysRSI-eval — une méthodologie d'évaluation quantitative de l'auto-amélioration récursive physique (RSI) via une métrique à cinq dimensions. Au lieu d'un résultat binaire traditionnel, les auteurs mesurent cinq aspects de l'apprentissage : • First-Attempt Performance — le succès dès la première tentative • Efficiency — le rythme de croissance de la performance • Success — la part finale de tentatives réussies • Budget — le nombre d'interactions consommées • Improvement from Failure — la capacité à apprendre de ses erreurs

Экспериментальная установка и Physical Barrel Hypothesis

Les auteurs ont testé différents modèles Vision-Language sur 18 tâches de manipulation sous un budget d'interactions identique. L'analyse des résultats a conduit à la formulation de la Physical Barrel Hypothesis : différentes capacités des VLM limitent différentes parties du processus d'amélioration. Tout comme le volume d'un tonneau est déterminé par sa planche la plus courte, dans l'agent, différentes composantes (compréhension visuelle, logique de planification, précision du contrôle) deviennent des goulots d'étranglement à différentes étapes de l'apprentissage.

Les métriques à cinq dimensions ont révélé des différences cachées : des systèmes proches en termes de scores moyens sur les benchmarks publics peuvent fortement diverger dans leurs profils d'amélioration. Des scores finaux élevés ne garantissent ni un progrès rapide, ni un progrès efficace — les évaluations moyennes traditionnelles masquent des différences importantes dans les trajectoires d'apprentissage.

Масштабирование и предсказуемость

L'étude a abordé la mise à l'échelle sous deux angles. L'observational scaling répond à la question suivante : peut-on prédire la performance relative d'un agent VLM sur des tâches physiques à partir des capacités publiques connues du modèle ? Le second angle : peut-on prédire le progrès tardif à partir du feedback physique précoce — si, lors des premières tentatives, l'agent a affiché un certain schéma d'erreurs, peut-on prédire sa trajectoire future ?

Ensemble, ces deux analyses répondent à la question centrale : à quelle vitesse et jusqu'où un agent peut-il progresser ?

Workspace interventions и архитектура опыта

Les auteurs ont mené des expériences de manipulation des conditions pour comprendre ce qui subsiste de l'amélioration après intervention : • La suppression de l'historique des interactions réduisait le taux de succès des rounds tardifs — l'historique est crucial pour l'apprentissage • Le gel de la configuration de l'espace de travail ne détruisait pas l'utilité de l'expérience sur de nouveaux scénarios — l'expérience est partiellement transférable • Trois cas cross-task atteignaient le succès plus tôt sous certaines conditions — la multi-tâche accélère l'apprentissage

Conclusion clé : l'adaptation à une scène spécifique et l'expérience réutilisable existent en parallèle, et non en conflit.

Контекст в ландшафте recursive self-improvement

Sur Hugging Face figurent des travaux similaires développant des idées proches : • PhysEvo: Astra Can Act, Let It (2026) • Agent Plasticity: Measuring Self-Improvement Through Experience (2026) • SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness (2026) • Long-Horizon Scaling: How Model Capabilities Shape the Returns to Computation (2026) • HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? (2026) • AReaL-RSI: Adaptive Scaling and Coordination of Recursive Self-Improvement (2026) • RSIGym: A Flexible Environment for Recursive Self-Improvement (2026)

Le projet est disponible sur physrsi-eval.github.io avec le code complet, les données et la documentation.