Shepherd, de Northeastern et Stanford, donne aux agents IA un « Git » et un retour arrière sur les erreurs
Les agents qui tournent longtemps sans surveillance finissent parfois par commettre l'irréversible : effacer toute une boîte mail ou pirater des sites. Dans Shepherd, chaque étape de l'agent est enregistrée comme un « commit », comme dans Git. Un agent superviseur intercepte l'action dangereuse et ramène le travail en arrière. Un e-mail, par exemple, atterrit d'abord dans un bac à sable et ne part pour de bon qu'après vérification. Ceux qui construisent des agents ont intérêt à adopter cette méthode.
Traité par IA depuis IEEE Spectrum AI ; édité par Hamidun News
On lance des agents IA pour de longues durées, sans surveillance, et plus ils travaillent longtemps, plus il y a de chances que l'un d'eux fasse quelque chose d'irréversible. Des agents ont déjà effacé une boîte mail entière, piraté des sites, voire lancé des cyberattaques. Des chercheurs de la Northeastern University et de Stanford proposent une solution que tout développeur connaît : faire pour les agents ce que Git fait pour le code.
Chaque étape de l'agent est enregistrée comme un « commit » (un instantané de l'état), ce qui permet de revenir à n'importe quel moment. Imaginez un agent sur le point d'envoyer à un client un e-mail contenant une erreur. Dans un système classique, le message est déjà parti.
Dans Shepherd, le bac à sable l'intercepte, puis un agent superviseur ou un humain décide s'il faut vraiment l'envoyer ou ramener l'agent une étape en arrière. Si votre agent touche à la messagerie, aux fichiers ou au déploiement, cette méthode mérite d'être adoptée dès maintenant.
Le berger et les moutons
L'auteur de l'idée, Weiyan Shi, professeure à Northeastern, l'explique ainsi : les agents de travail ressemblent à des moutons qui vagabondent, et le méta-agent à un berger qui les remet sur le bon chemin. D'où le nom du framework, Shepherd, c'est-à-dire « berger ». Le méta-agent observe le comportement des agents, vérifie la qualité du travail et remonte le problème à un humain quand c'est pertinent. L'humain garde la main : il peut intervenir et piloter le méta-agent lui-même.
Le principe parlera à quiconque travaille en équipe. Le junior réalise la tâche, le tech lead examine le résultat et, dans les cas litigieux, fait appel à son responsable. Ici, la hiérarchie est la même, sauf que ce sont des modèles qui l'occupent. Selon Weiyan Shi, cette « couche intermédiaire » est nécessaire parce que plus les agents travaillent longtemps, plus les erreurs et les actions dangereuses deviennent probables.
Comment ça marche : du contrôle de version pour les actions
Avec des systèmes comme GitHub, les programmeurs peuvent copier le code (un « fork »), enregistrer une version (un « commit »), consulter les modifications et revenir en arrière si quelque chose casse. Shepherd applique le même principe au travail d'un agent. Il est écrit en Python et s'appuie sur les principes de la programmation fonctionnelle. Chaque action de l'agent, avec son état et son environnement (boîte mail, système de fichiers, etc.), est enregistrée comme un commit. Les commits forment un graphe d'étapes.
Sur ce graphe, le méta-agent peut se rendre à n'importe quel point. Il observe l'agent de travail, intercepte l'action erronée, le ramène à l'étape précédente et lance une autre variante à partir de ce point.
Il y a aussi un volet protecteur. Derek Chong, chercheur à Stanford, explique que l'agent de travail croit vivre dans un monde ordinaire et envoyer des e-mails. En réalité, le bac à sable de Shepherd intercepte l'action, et c'est ensuite le méta-agent ou un humain qui décide d'envoyer ou non le message. Derek Chong y voit un garde-fou et un élément de contrôle.
Trois scénarios et ce que l'on ignore encore
Pour montrer que l'idée fonctionne, l'équipe a construit trois exemples :
- Un superviseur pour programmeurs en parallèle. Il intervenait lorsque des agents qui écrivent du code en binôme entraient en conflit. Cela a fait progresser la proportion de tests réussis sur l'un des benchmarks.
- Un optimiseur de processus existant. Il proposait des corrections ciblées sur un workflow d'agent déjà terminé et les vérifiait en rejouant uniquement les parties concernées de l'exécution, et non l'exécution entière. Le résultat s'en trouvait amélioré.
- Un entraîneur pour l'apprentissage par renforcement. Il choisissait les étapes où il convient de « bifurquer » l'exécution pour que l'agent emprunte un meilleur chemin, et le récompensait au fil de l'eau.
Le compte rendu d'IEEE Spectrum ne donne aucun chiffre précis sur les gains ; l'ampleur des améliorations ne peut donc s'évaluer que dans l'article scientifique lui-même. Celui-ci sera présenté à la conférence NeurIPS en décembre 2026. Shepherd est ouvert sur GitHub mais, selon Derek Chong, l'équipe est encore en train de le faire passer de la version alpha à un niveau prêt pour la production.
Ce que cela apporte en pratique
Il n'est pas nécessaire d'attendre un Shepherd abouti pour reprendre l'approche. Premièrement, tenir un journal des étapes avec l'état associé, afin de pouvoir revenir à n'importe quel moment. Deuxièmement, envoyer d'abord les actions dangereuses dans un bac à sable et ne les laisser sortir qu'après vérification. Troisièmement, placer au-dessus des agents de travail un vérificateur distinct, au lieu de demander à un seul modèle de se contrôler lui-même.
Shepherd s'inscrit dans une initiative plus large, l'Agent Sciences Research Initiative (ASRI), fondée par Derek Chong et Weiyan Shi. Elle réunit des chercheurs de Northeastern, de Stanford et d'UC Berkeley. L'objectif du groupe : rendre les agents plus fiables, mieux les évaluer et renforcer leur sécurité. Pour Derek Chong, la gouvernance des agents devient de plus en plus importante : les agents doivent pouvoir se vérifier mutuellement et intervenir dans le travail, comme le font des managers.
- 21 nov. 2026Les offres FDE ont été multipliées par 4,6 en un an : ce que fait un ingénieur chez le client
- 21 nov. 2026Sakana AI crée un laboratoire appliqué pour modéliser les marchés et l'économie
- 21 nov. 2026Meta prépare Muse Charm, un tamagotchi IA à 300 $ avec un an de 5G Verizon
- 21 nov. 2026Dreamteam lève 53 M$ pour un CRM qui se remplit tout seul à partir des e-mails et des appels
Questions clés sur cet article
Que sait-on sur Le berger et les moutons ?
L'auteur de l'idée, Weiyan Shi, professeure à Northeastern, l'explique ainsi : les agents de travail ressemblent à des moutons qui vagabondent, et le méta-agent à un berger qui les remet sur le bon chemin. D'où le nom du framework, Shepherd, c'est-à-dire « berger ». Le méta-agent observe le comportement des agents, vérifie la qualité du travail et remonte le problème à un humain quand c'est pertinent. L'humain garde la main : il peut intervenir et piloter le méta-agent lui-même.
Comment ça marche : du contrôle de version pour les actions?
Avec des systèmes comme GitHub, les programmeurs peuvent copier le code (un « fork »), enregistrer une version (un « commit »), consulter les modifications et revenir en arrière si quelque chose casse. Shepherd applique le même principe au travail d'un agent. Il est écrit en Python et s'appuie sur les principes de la programmation fonctionnelle. Chaque action de l'agent, avec son état et son environnement (boîte mail, système de fichiers, etc.), est enregistrée comme un commit.
Que sait-on sur Trois scénarios et ce que l'on ignore encore ?
Pour montrer que l'idée fonctionne, l'équipe a construit trois exemples : Un superviseur pour programmeurs en parallèle. Il intervenait lorsque des agents qui écrivent du code en binôme entraient en conflit. Cela a fait progresser la proportion de tests réussis sur l'un des benchmarks. Un optimiseur de processus existant. Il proposait des corrections ciblées sur un workflow d'agent déjà terminé et les vérifiait en rejouant uniquement les parties concernées de l'exécution, et non l'exécution entière.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.