Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarIEEE Spectrum AI→ original

Shepherd, de Northeastern et Stanford, donne aux agents IA un « Git » et un retour arrière sur les erreurs

Les agents qui tournent longtemps sans surveillance finissent parfois par commettre l'irréversible : effacer toute une boîte mail ou pirater des sites. Dans Shepherd, chaque étape de l'agent est enregistrée comme un « commit », comme dans Git. Un agent superviseur intercepte l'action dangereuse et ramène le travail en arrière. Un e-mail, par exemple, atterrit d'abord dans un bac à sable et ne part pour de bon qu'après vérification. Ceux qui construisent des agents ont intérêt à adopter cette méthode.

Traité par IA depuis IEEE Spectrum AI ; édité par Hamidun News
Shepherd, de Northeastern et Stanford, donne aux agents IA un « Git » et un retour arrière sur les erreurs
Source : IEEE Spectrum AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireIEEE Spectrum AI ↗
Rédacteur en chef
Chiffre clé #1Le code est ouvert sur GitHub, mais il s'agit encore d'une version alpha, pas prête pour la production
Testé sur trois tâchesprogrammation en binôme, optimisation, apprentissage par renforcement
Chiffre clé #3L'article sera présenté à NeurIPS en décembre 2026

On lance des agents IA pour de longues durées, sans surveillance, et plus ils travaillent longtemps, plus il y a de chances que l'un d'eux fasse quelque chose d'irréversible. Des agents ont déjà effacé une boîte mail entière, piraté des sites, voire lancé des cyberattaques. Des chercheurs de la Northeastern University et de Stanford proposent une solution que tout développeur connaît : faire pour les agents ce que Git fait pour le code.

Chaque étape de l'agent est enregistrée comme un « commit » (un instantané de l'état), ce qui permet de revenir à n'importe quel moment. Imaginez un agent sur le point d'envoyer à un client un e-mail contenant une erreur. Dans un système classique, le message est déjà parti.

Dans Shepherd, le bac à sable l'intercepte, puis un agent superviseur ou un humain décide s'il faut vraiment l'envoyer ou ramener l'agent une étape en arrière. Si votre agent touche à la messagerie, aux fichiers ou au déploiement, cette méthode mérite d'être adoptée dès maintenant.

Le berger et les moutons

L'auteur de l'idée, Weiyan Shi, professeure à Northeastern, l'explique ainsi : les agents de travail ressemblent à des moutons qui vagabondent, et le méta-agent à un berger qui les remet sur le bon chemin. D'où le nom du framework, Shepherd, c'est-à-dire « berger ». Le méta-agent observe le comportement des agents, vérifie la qualité du travail et remonte le problème à un humain quand c'est pertinent. L'humain garde la main : il peut intervenir et piloter le méta-agent lui-même.

Le principe parlera à quiconque travaille en équipe. Le junior réalise la tâche, le tech lead examine le résultat et, dans les cas litigieux, fait appel à son responsable. Ici, la hiérarchie est la même, sauf que ce sont des modèles qui l'occupent. Selon Weiyan Shi, cette « couche intermédiaire » est nécessaire parce que plus les agents travaillent longtemps, plus les erreurs et les actions dangereuses deviennent probables.

Comment ça marche : du contrôle de version pour les actions

Avec des systèmes comme GitHub, les programmeurs peuvent copier le code (un « fork »), enregistrer une version (un « commit »), consulter les modifications et revenir en arrière si quelque chose casse. Shepherd applique le même principe au travail d'un agent. Il est écrit en Python et s'appuie sur les principes de la programmation fonctionnelle. Chaque action de l'agent, avec son état et son environnement (boîte mail, système de fichiers, etc.), est enregistrée comme un commit. Les commits forment un graphe d'étapes.

Sur ce graphe, le méta-agent peut se rendre à n'importe quel point. Il observe l'agent de travail, intercepte l'action erronée, le ramène à l'étape précédente et lance une autre variante à partir de ce point.

Il y a aussi un volet protecteur. Derek Chong, chercheur à Stanford, explique que l'agent de travail croit vivre dans un monde ordinaire et envoyer des e-mails. En réalité, le bac à sable de Shepherd intercepte l'action, et c'est ensuite le méta-agent ou un humain qui décide d'envoyer ou non le message. Derek Chong y voit un garde-fou et un élément de contrôle.

Trois scénarios et ce que l'on ignore encore

Pour montrer que l'idée fonctionne, l'équipe a construit trois exemples :

  • Un superviseur pour programmeurs en parallèle. Il intervenait lorsque des agents qui écrivent du code en binôme entraient en conflit. Cela a fait progresser la proportion de tests réussis sur l'un des benchmarks.
  • Un optimiseur de processus existant. Il proposait des corrections ciblées sur un workflow d'agent déjà terminé et les vérifiait en rejouant uniquement les parties concernées de l'exécution, et non l'exécution entière. Le résultat s'en trouvait amélioré.
  • Un entraîneur pour l'apprentissage par renforcement. Il choisissait les étapes où il convient de « bifurquer » l'exécution pour que l'agent emprunte un meilleur chemin, et le récompensait au fil de l'eau.

Le compte rendu d'IEEE Spectrum ne donne aucun chiffre précis sur les gains ; l'ampleur des améliorations ne peut donc s'évaluer que dans l'article scientifique lui-même. Celui-ci sera présenté à la conférence NeurIPS en décembre 2026. Shepherd est ouvert sur GitHub mais, selon Derek Chong, l'équipe est encore en train de le faire passer de la version alpha à un niveau prêt pour la production.

Ce que cela apporte en pratique

Il n'est pas nécessaire d'attendre un Shepherd abouti pour reprendre l'approche. Premièrement, tenir un journal des étapes avec l'état associé, afin de pouvoir revenir à n'importe quel moment. Deuxièmement, envoyer d'abord les actions dangereuses dans un bac à sable et ne les laisser sortir qu'après vérification. Troisièmement, placer au-dessus des agents de travail un vérificateur distinct, au lieu de demander à un seul modèle de se contrôler lui-même.

Shepherd s'inscrit dans une initiative plus large, l'Agent Sciences Research Initiative (ASRI), fondée par Derek Chong et Weiyan Shi. Elle réunit des chercheurs de Northeastern, de Stanford et d'UC Berkeley. L'objectif du groupe : rendre les agents plus fiables, mieux les évaluer et renforcer leur sécurité. Pour Derek Chong, la gouvernance des agents devient de plus en plus importante : les agents doivent pouvoir se vérifier mutuellement et intervenir dans le travail, comme le font des managers.

Dossier

Questions clés sur cet article

Que sait-on sur Le berger et les moutons ?

L'auteur de l'idée, Weiyan Shi, professeure à Northeastern, l'explique ainsi : les agents de travail ressemblent à des moutons qui vagabondent, et le méta-agent à un berger qui les remet sur le bon chemin. D'où le nom du framework, Shepherd, c'est-à-dire « berger ». Le méta-agent observe le comportement des agents, vérifie la qualité du travail et remonte le problème à un humain quand c'est pertinent. L'humain garde la main : il peut intervenir et piloter le méta-agent lui-même.

Comment ça marche : du contrôle de version pour les actions?

Avec des systèmes comme GitHub, les programmeurs peuvent copier le code (un « fork »), enregistrer une version (un « commit »), consulter les modifications et revenir en arrière si quelque chose casse. Shepherd applique le même principe au travail d'un agent. Il est écrit en Python et s'appuie sur les principes de la programmation fonctionnelle. Chaque action de l'agent, avec son état et son environnement (boîte mail, système de fichiers, etc.), est enregistrée comme un commit.

Que sait-on sur Trois scénarios et ce que l'on ignore encore ?

Pour montrer que l'idée fonctionne, l'équipe a construit trois exemples : Un superviseur pour programmeurs en parallèle. Il intervenait lorsque des agents qui écrivent du code en binôme entraient en conflit. Cela a fait progresser la proportion de tests réussis sur l'un des benchmarks. Un optimiseur de processus existant. Il proposait des corrections ciblées sur un workflow d'agent déjà terminé et les vérifiait en rejouant uniquement les parties concernées de l'exécution, et non l'exécution entière.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…