The Trinity améliore l'harnais d'un agent IA et gagne 9,8 points sur de nouvelles tâches

Votre agent entre pour la seconde fois dans une pièce déjà vérifiée, oublie une contrainte et dépense le reste de son budget en appels inutiles. L'envie d'acheter tout de suite un modèle plus puissant est forte. Mais il vaut d'abord examiner le code qui l'entoure : ce qui est conservé en mémoire, quelles observations entrent dans la requête et qui décide qu'il est temps de s'arrêter. The Trinity étudie l'amélioration automatique de cette couche précisément.

D'après les résultats présentés dans l'article, les modules de la première itération ont fait passer le score moyen sur de nouvelles tâches de 37,45 à 47,26, soit environ 9,8 points. C'est un résultat utile, obtenu sans modifier les poids du modèle. Les 26,2 points, plus spectaculaires, figurent eux aussi dans les tableaux, mais ils incluent des conditions supplémentaires qui changent beaucoup le sens de la comparaison.

L'agent s'écrit ses propres instructions de travail

L'harnais est le code qui transforme un modèle en agent opérationnel. Il prépare les observations, conserve l'historique, organise les appels d'outils, vérifie les contraintes et gère les nouvelles tentatives. Même un bon modèle patinera si ce code perd à chaque fois une partie importante de l'état.

Imaginez un labyrinthe avec des portes : on peut avancer, mais on ne peut plus revenir par le même chemin. Il ne suffit pas à l'agent de trouver un itinéraire court. Il doit mémoriser la position des portes et vérifier à l'avance le chemin du retour. Dans The Trinity, une telle erreur devient l'occasion d'ajouter le module correspondant à l'harnais.

Le système répartit le travail entre trois rôles d'un même modèle gelé. Evolver analyse les erreurs et propose des modifications. Creator crée des environnements d'entraînement simplifiés. Explorer les parcourt et collecte des trajectoires : des séquences d'observations, de décisions et de résultats. Un hôte logiciel distinct vérifie les environnements et les modifications proposées.

Les tâches sont regroupées selon les capacités requises. Un labyrinthe et un casse-tête visuel peuvent se retrouver dans le même groupe si tous deux exigent de lire précisément les observations et de mémoriser l'état. Pour ces groupes, le système crée de petits mondes où l'erreur voulue est plus facile à reproduire et à analyser que dans un long jeu complet.

Pourquoi le gain de 26 points demande des explications

Après quatre itérations, le résultat moyen sur 18 nouveaux benchmarks est passé de 37,45 à 63,61 points. Cependant, l'évaluation haute repose sur un choix idéal de l'harnais : chaque tâche reçoit la meilleure variante. Le routeur réel, qui doit choisir à l'avance à partir de la description disponible, a obtenu 60,96 points.

Il y a aussi une préparation avant l'évaluation. Chaque harnais dispose de cinq tentatives sur le benchmark correspondant, puis l'expérience est condensée en compétences enregistrées. Les épisodes de préparation ne comptent pas dans le score final. On ne peut donc pas lire ce résultat comme la résolution de tâches totalement inconnues dès la première présentation.

La comparaison de la première itération aide à séparer les effets. Les modules appris seuls apportent environ 9,8 points par rapport à la base, les seules compétences préparées environ 11,2. Ensemble, ils donnent environ 16,1. L'auteur de l'analyse n'a pas trouvé dans l'article de comparaison analogue sans préparation pour la quatrième itération.

Les deux robots physiques de la nouvelle partie appellent aussi une réserve : les modules ont été entraînés sur des versions simulées des mêmes tâches. On y teste donc le transfert du simulateur vers le matériel. Et un résultat de 60 % signifie six épisodes réussis sur dix : l'échelle de l'expérience reste pour l'instant modeste.

Ce qu'il faut retenir pour votre produit

La comparaison la plus intéressante concerne les environnements d'entraînement. Lors de l'entraînement directement sur les benchmarks, l'arbre de capacités n'a presque pas amélioré la qualité par rapport à un harnais commun unique, mais il a demandé environ trois fois moins de jetons. Le passage à des simulations créées de manière autonome a ajouté près de cinq points sur les nouvelles tâches, tout en augmentant le coût d'entraînement.

Pour une équipe, c'est une raison de commencer par un journal des défaillances récurrentes. Si l'agent oublie régulièrement les conditions de retour, créez un petit environnement avec ces conditions. S'il enfreint les contraintes d'un outil, concevez de courtes tâches vérifiables sur cette défaillance. Comparez ensuite l'harnais modifié à l'harnais d'origine sur des scénarios mis de côté, à budget égal.

The Trinity propose une hypothèse pratique : une partie des limites d'un agent peut être corrigée par la mémoire, les vérifications et des tâches d'entraînement. Mais le gain annoncé mérite d'être décomposé : ce qu'apportent les modules eux-mêmes, ce qui vient des tentatives préalables, et la capacité du système à choisir l'harnais adapté lors d'un lancement réel.