Un agent de code remplace le téléopérateur : les robots réussissent 93 essais sur 100, contre 84

La collecte de démonstrations par téléopération reste la norme en robotique, mais chaque épisode mobilise du temps de robot et d'opérateur, et chaque nouvelle tâche repart de zéro. Des chercheurs du groupe DAGroup de l'université de Pékin proposent PyRUA-DataFarm, une « ferme de données » où un agent de code prend la place du téléopérateur. L'agent reçoit en entrée une requête de données et un épisode de calibration, c'est-à-dire un court enregistrement du robot dans la scène cible.

En sortie, il produit des vues de caméras synchronisées, annotées avec les actions réelles du robot. Les politiques (modèles de contrôle) entraînées uniquement sur ces données ont réussi 93 tentatives sur 100 sur cinq tâches réelles. Les politiques entraînées sur le même nombre d'épisodes téléopérés en ont réussi 84 sur 100.

Comment l'agent remplace l'opérateur

L'agent construit la tâche dans le simulateur comme le ferait un ingénieur. Il reconstitue la scène et les caméras à partir de l'épisode de calibration, vérifie que le simulateur peut reproduire les compétences requises, puis écrit un contrôleur expert ainsi qu'un juge de réussite. L'épisode de calibration définit la scène et les caméras, mais ne sert pas de source d'actions.

Le simulateur lance ensuite l'expert depuis de nombreux états initiaux et produit des trajectoires avec les actions exactes et les états des objets. Un modèle vidéo conditionné par des images réelles restitue chaque exécution pour toutes les caméras à la fois, ce qui garantit la cohérence entre les vues. Un nouvel aspect visuel, par exemple une autre nappe ou un autre éclairage, se définit par une description textuelle.

Reste la question de la vérification des données. Un agent qui écrit à la fois l'expert et le contrôle de réussite peut valider ses propres erreurs. Quant au modèle vidéo, il peut copier la composition des références, ajouter des objets superflus ou s'écarter du mouvement simulé. La certification est donc séparée de la production. L'expert est développé face à un juge qu'il ne voit pas, et il n'est admis que sur des états initiaux mis de côté. Le moteur de rendu peut modifier l'apparence, mais pas la géométrie, les objets ni le timing. Chaque épisode rendu est comparé à l'état de la simulation par des contrôles automatiques et par un relecteur indépendant.

Résultats sur un robot réel

Les expériences ont porté sur cinq tâches bimanuelles impliquant des objets rigides, articulés et déformables, ainsi que des objets dotés d'un écran. Dans la scène d'origine, les données de la ferme ont donné 93 réussites sur 100 tentatives, contre 84 pour la téléopération. L'écart se creuse quand les conditions changent : sous une nappe et un éclairage coloré absents de tous les jeux d'entraînement, les politiques de la ferme conservent 87 réussites, tandis que celles entraînées par téléopération tombent à 46. Les auteurs attribuent ce résultat à la variation d'apparence que la ferme ajoute autour de trajectoires précises et fixes.

Le rendu à partir d'images réelles s'est révélé décisif : les mêmes trajectoires avec une randomisation de domaine classique n'ont donné que 26 et 21 réussites. D'après les statistiques d'images, les épisodes de la ferme sont plus de deux fois plus proches des images réelles des caméras que le rendu natif du simulateur. De plus, le moteur de rendu de la ferme maintient toutes les vues cohérentes avec le mouvement simulé, ce qu'un appel direct au modèle vidéo réussit moins bien.

Combien ça coûte

L'adaptation de la tâche est entièrement automatique. Elle coûte en moyenne $21 de frais d'API, payés une seule fois par tâche, plus $5 pour le contrat de rendu. Chaque épisode suivant (simulation, rendu, nouveau rendu et relecture) coûte en moyenne $0,80 et ne nécessite ni robot ni opérateur. Pour 100 épisodes par tâche, le coût moyen ressort à $1,06 par épisode.

Une heure de données synchronisées à trois caméras pour une tâche revient à $107, tous ces coûts inclus. À titre de comparaison, le tarif de la téléopération en Chine est de $117, et la seule rémunération du travail en Amérique du Nord atteint $290. Le code et la page du projet sont publiés : l'approche peut donc être testée sur ses propres tâches.