DONIC apprend à une seule politique à piloter deux mains : 86,79% de réussite sans fine-tuning

Une équipe de chercheurs a publié DONIC, une politique unique pour piloter deux mains robotiques dextres, qui suit les mouvements humains lors de la manipulation d'objets. Un seul checkpoint, sans aucun fine-tuning, réussit 86,79% des trajectoires inédites sur des objets connus et 57,32% sur des objets absents de l'entraînement. L'écart avec les meilleures baselines existantes de suivi bimanuel atteint respectivement 77,36 et 45,73 points de pourcentage.

En retranchant cet écart du résultat, on obtient environ 9% de réussite pour les concurrents sur les objets connus et environ 12% sur les nouveaux. Autrement dit, le suivi bimanuel fonctionnait jusqu'ici à un niveau proche de « presque jamais ».

Pourquoi deux mains, c'est plus compliqué qu'une main multipliée par deux

Jusqu'ici, le suivi de mouvements de référence pour mains dextres s'est surtout développé autour d'une seule main et d'un éventail restreint d'interactions. La vie réelle est différente : dévisser un couvercle, maintenir une boîte par-dessous et par le côté, faire passer un objet d'une paume à l'autre. Tout cela exige que les deux mains jouent des rôles distincts et les échangent au bon moment.

Deux problèmes se posent. D'abord, les données sur les manipulations bimanuelles riches en contacts sont très rares. Ensuite, chaque main supplémentaire fait exploser la complexité de la coordination des contacts : l'erreur d'une main fait échouer la prise de l'autre. Il n'existait donc pas, jusqu'ici, de tracker bimanuel universel.

BiHOI : les données qui manquaient

Les auteurs ont commencé par le jeu de données. BiHOI est un ensemble multivue de 1575 séquences et 229 objets, centré sur l'interaction bimanuelle prolongée plutôt que sur de brefs contacts. Les interactions, reconstruites à partir de vidéos, sont retargetées en références pour le robot : les mouvements humains sont convertis en trajectoires que la main robotique peut exécuter. DONIC a été entraîné simultanément sur différentes catégories d'opérations et sur différentes sources de mouvements humains, et ce mélange compte pour la généralisation.

Une boucle où le robot apprend de ses propres réussites

L'entraînement combine proximal policy optimization et behavioral cloning. Les deux fonctionnent dans une boucle de rétroaction : les exécutions qui passent la vérification de réussite reviennent dans l'entraînement sous forme de démonstrations. La politique enrichit elle-même son corpus de bons exemples.

Deux autres choix portent sur les récompenses et sur l'estimation de l'avantage :

• Object-centered per-hand reward. La récompense est liée au mouvement de l'objet, ce qui préserve le retour d'information sur ce qui arrive à l'objet. Dans le même temps, chaque main est évaluée selon son rôle de contact dans la référence. • Clip-Centered Advantages. Cette méthode supprime les biais d'avantage propres à une référence donnée, mais conserve les différences au sein d'une trajectoire. La logique : les clips diffèrent sensiblement en difficulté, et sans centrage, l'entraînement tirerait vers les plus faciles.

Ensemble, ces choix permettent à une seule politique de maîtriser des manipulations coordonnées sur des références hétérogènes.

Paramètres clés

• Premier tracker bimanuel universel, entraîné d'emblée sur plusieurs catégories d'opérations et sources de mouvements • BiHOI : 1575 séquences, 229 objets, multivue • 86,79% de réussite sur de nouvelles trajectoires d'objets connus • 57,32% sur des objets mis de côté (held-out) • Écart avec les meilleures baselines : 77,36 et 45,73 points de pourcentage • Un seul checkpoint, sans fine-tuning

Qui en profitera en premier

Ceux qui construisent des humanoïdes et des manipulateurs dotés de mains dextres. Le goulot d'étranglement n'est pas le matériel, mais les données et le contrôle : si l'on peut convertir de façon fiable des démonstrations humaines en références bimanuelles, et qu'une politique unique les exécute, la collecte de données par vidéo et par téléopération devient une chaîne de production exploitable. Une telle politique peut servir d'exécutant bas niveau, surmonté d'un planificateur ou d'un modèle de langage qui décide quoi faire exactement.

La limite se lit aussi dans les chiffres. Sur les nouveaux objets, le taux de réussite est de 57,32% : le système échoue donc encore dans près d'un cas sur deux. C'est insuffisant pour l'industrie ou la maison, mais le résultat est solide comme base de recherche et comme repère de généralisation. La généralisation à la forme et au poids d'objets inconnus peut désormais être mesurée et améliorée sur un jeu de données commun, avec une baseline claire.