RoboArchitect, sans réentraînement, fait passer le succès des bras robotiques de 9,7% à 43,3% sur de nouvelles scènes

L'équipe de RoboArchitect montre qu'il n'est pas nécessaire d'écrire à la main le harnais d'une politique robotique : on peut le confier à un modèle de code. Le système prend une politique vision-language-action (VLA) gelée, examine les enregistrements de ses essais ratés et réécrit lui-même le code de contrôle qui l'entoure. Sans aucune mise à jour des poids, le succès moyen sur des scènes inconnues passe de 9,7% à 43,3% (4,5 fois plus), et sur des tâches inconnues de 12,7% à 40,2% (3,2 fois plus). Ces chiffres proviennent d'épisodes mis de côté, que le harnais n'a pas vus pendant l'optimisation.

Ce qui évolue exactement

Ici, le harnais est un programme placé entre les observations de l'environnement et les commandes de bas niveau envoyées au contrôleur. À chaque pas, il reçoit les images des caméras, les cartes de profondeur, la pose et l'état de la pince, ainsi qu'une instruction textuelle. La version de départ se contente de relayer sans changement les actions de la politique gelée, ce qui correspond à l'évaluation du modèle « nu ».

Une boucle familière à tout ingénieur se met ensuite en place : exécuter, repérer l'échec, comprendre la cause, corriger le code, vérifier à nouveau. Chaque évaluation journalise des traces complètes : images image par image, relevés du robot, sorties de tous les modèles et outils. Le modèle de code (les auteurs l'ont lancé via le client Claude Code au niveau d'effort maximal) lit ces traces, diagnostique les échecs et propose une nouvelle version. Le candidat est revérifié sur les mêmes épisodes d'entraînement et n'est accepté que si son résultat dépasse celui de la version actuelle ; la qualité sur le jeu d'entraînement croît donc de façon monotone. Le plafond est fixé à 5 itérations.

Le harnais dispose d'outils auxiliaires : Qwen3-30B-A3B-Instruct comme modèle de langage, Molmo2-8B pour la vision et le pointage, Grounding-DINO pour la détection, SAM 3 pour la segmentation et GraspGen pour générer des poses de préhension. Des utilitaires géométriques convertissent aussi les paires « pixel — profondeur » en coordonnées 3D dans le repère de la base du robot.

Ce que le système a inventé

Les stratégies trouvées sont tout à fait humaines. Si la politique pousse un carton de jus jusqu'à le renverser, le harnais détecte le blocage et relève le bras. Quand une étagère gêne par le dessus, la prise pivote et la main arrive par le côté. Si la porte d'un grille-pain ne se ferme pas faute d'appui suffisant, le harnais amplifie l'amplitude de l'action et la verrouille. Chaque correction cible un type d'échec précis ; elle se lit et se développe donc facilement, contrairement à une modification des poids.

Là où la politique ne fournit aucun signal utile, le harnais cesse de l'interroger et guide la main à partir de sa propre perception. On obtient en pratique un agent de type code-as-policy, et les auteurs estiment que cela réunit de façon empirique deux approches que l'on envisage d'ordinaire séparément.

Le harnais développe en outre une mémoire persistante. Les auteurs n'ont défini ni le schéma ni les règles de stockage : le système décide lui-même de ce qu'il consigne et de la manière d'y accéder. La mémoire retient ainsi des détails pragmatiques, par exemple la profondeur de préhension efficace, prise en compte dans les décisions suivantes.

Résultats et limites

L'évaluation a porté sur LIBERO-Pro-10 (LIBERO-10 avec des objets déplacés), SimplerEnv Google et WidowX, et VLABench. Les politiques utilisées sont MolmoAct-2 et X-VLA. Pour VLABench, les auteurs ont appliqué le progress score officiel, qui accorde un crédit partiel pour la saisie du bon objet et les conditions remplies, même si l'article l'appelle aussi « succès » par simplicité. Pour la comparaison avec le fine-tuning, les auteurs ont pris les checkpoints publics des mêmes modèles, ajustés sur le benchmark cible.

Le gain est le plus marqué là où le benchmark s'éloigne des données d'entraînement de la politique : un modèle généraliste doté d'un harnais évolué surpasse souvent sa propre version fine-tunée. Les auteurs ont en outre construit un harnais unique pour plusieurs plateformes (Franka Panda, WidowX, manipulateur mobile de Google). Il a été entraîné sur des épisodes générés procéduralement, en dehors des évaluations standard. Autour de X-VLA généraliste, il améliore nettement le résultat ; autour des spécialistes fine-tunés, il préserve leur niveau.

Les réserves sont évidentes : toutes les expériences ont été menées en simulation, et aucune validation sur matériel réel n'est décrite dans le texte disponible. Le résultat dépend fortement d'un modèle de code puissant et d'un ensemble d'outils prêts à l'emploi, et le matériel source ne donne aucune donnée sur le nombre d'itérations nécessaire ni sur le coût des exécutions. Conclusion pratique pour les équipes qui adaptent des politiques à un nouveau bras ou à une nouvelle scène : plutôt que de collecter des démonstrations et de fine-tuner, il vaut la peine d'essayer d'abord une optimisation automatisée du harnais. Les auteurs affirment que c'est précisément là que se trouve aujourd'hui une marge de progression importante pour la manipulation.