Shepherd, de Northeastern y Stanford, da a los agentes de IA un «Git» y la opción de deshacer errores
Los agentes que trabajan durante mucho tiempo sin supervisión a veces hacen algo irreversible: borran un buzón de correo entero o hackean sitios web. En Shepherd, cada paso del agente se guarda como un «commit», igual que en Git, y un agente supervisor intercepta la acción peligrosa y hace retroceder el trabajo. Un correo, por ejemplo, llega primero a un sandbox y solo se envía de verdad después de una verificación. Quienes desarrollan agentes deberían adoptar esta técnica.
Procesado por IA desde IEEE Spectrum AI; editado por Hamidun News
Los agentes de IA se lanzan para trabajar durante mucho tiempo y sin supervisión, y cuanto más trabajan, mayor es la probabilidad de que alguno haga algo irreversible. Ya ha habido casos en los que un agente borró un buzón de correo entero, hackeó sitios web e incluso lanzó ciberataques. Investigadores de Northeastern University y Stanford proponen una solución que cualquier desarrollador conoce: hacer por los agentes lo que Git hace por el código.
Cada paso del agente se guarda como un «commit» (una instantánea del estado), de modo que siempre se puede volver a cualquier momento anterior. Imagine un agente que está a punto de enviar a un cliente un correo con un error. En un sistema normal, el correo ya habría salido.
En Shepherd lo intercepta un sandbox, y un agente supervisor o una persona decide si el correo se envía de verdad o si se hace retroceder al agente un paso. Si su agente toca el correo, los archivos o los despliegues, conviene adoptar esta técnica ya.
El pastor y las ovejas
El autor de la idea, el profesor de Northeastern Weiyan Shi, lo explica así: los agentes de trabajo son como ovejas que deambulan, y el metaagente es el pastor que las devuelve al buen camino. De ahí el nombre del framework, Shepherd, que significa «pastor». El metaagente observa el comportamiento, comprueba la calidad del trabajo y eleva el problema a una persona cuando procede. El humano sigue al mando: puede intervenir y corregir el rumbo del propio metaagente.
El principio le resultará familiar a cualquiera que trabaje en equipo. Un junior hace una tarea, el líder técnico revisa el resultado y, en los casos dudosos, avisa a su responsable. Aquí hay la misma jerarquía, solo que participan modelos. Según Shi, esta «capa intermedia» es necesaria porque cuanto más tiempo trabajan los agentes, más probables son los errores y las acciones inseguras.
Cómo funciona: control de versiones para acciones
En sistemas como GitHub, los programadores pueden hacer una copia del código («fork»), guardar una versión («commit»), revisar los cambios y volver atrás si algo se rompe. Shepherd hace lo mismo con el trabajo del agente. Está escrito en Python y se apoya en principios de programación funcional. Cada acción del agente, junto con su estado y su entorno (el buzón de correo, el sistema de archivos, etc.), se registra como un commit. Los commits forman un grafo de pasos.
Sobre ese grafo, el metaagente puede saltar a cualquier punto. Observa al agente de trabajo, intercepta la acción errónea, lo devuelve al paso anterior y lanza otra variante desde ese punto.
Hay también una parte de protección. Derek Chong, investigador de Stanford, explica que al agente de trabajo le parece que vive en un mundo normal y que envía correos. En realidad, el sandbox de Shepherd intercepta la acción, y es el metaagente o una persona quien decide si el correo se envía. Chong lo describe como una barrera de protección y un elemento de control.
Tres escenarios y lo que aún se desconoce
Para demostrar que la idea funciona, el equipo montó tres ejemplos:
- Un supervisor para programadores en paralelo. Intervenía cuando los agentes que escribían código en pareja entraban en conflicto. Esto elevó la proporción de tests superados en uno de los benchmarks.
- Un optimizador de procesos ya hechos. Proponía cambios puntuales en un flujo de trabajo del agente ya terminado y los comprobaba reejecutando solo las partes afectadas de la ejecución, no la ejecución completa. Así mejoraba el resultado.
- Un entrenador para el aprendizaje por refuerzo. Elegía los pasos en los que convenía «bifurcar» la ejecución para que el agente siguiera un camino mejor, y lo recompensaba sobre la marcha.
En el resumen de IEEE Spectrum no hay cifras concretas de mejora, así que la magnitud de los avances solo puede evaluarse a partir del propio artículo. Se presentará en la conferencia NeurIPS en diciembre de 2026. Shepherd es de código abierto en GitHub, pero, según Chong, el equipo todavía lo está llevando de versión alfa a un estado listo para producción.
Qué aporta a quien desarrolla agentes
Incluso sin esperar a que Shepherd madure, se puede adoptar el enfoque. Primero, llevar un registro de pasos junto con el estado, para poder volver a cualquier momento. Segundo, enviar primero las acciones peligrosas a un sandbox y dejarlas salir solo después de verificarlas. Tercero, poner por encima de los agentes de trabajo a un revisor independiente, en lugar de pedirle a un solo modelo que se supervise a sí mismo.
Shepherd forma parte de una iniciativa más amplia, la Agent Sciences Research Initiative (ASRI), fundada por Chong y Shi. En ella trabajan investigadores de Northeastern, Stanford y UC Berkeley. El objetivo del grupo es hacer los agentes más fiables, evaluarlos mejor y aumentar su seguridad. Chong cree que la gobernanza de los agentes será cada vez más importante: deben ser capaces de verificarse entre sí e intervenir en el trabajo, como hacen los gerentes.
- 2 may 2026Estudio de Northeastern: los agentes de OpenClaw caen en manipulaciones y se perjudican a sí mismos
- 4 ago 2026Northeastern University crea una IA agéntica que programa sin intervención del desarrollador
- 16 oct 2026Stanford publica la lección de Pavone sobre visión estéreo: el curso AA274A y un libro de texto gratuito
- 20 nov 2026Casi 1000 agentes de IA publicaron 936 artículos en 3 meses en su propio servidor de preprints
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre El pastor y las ovejas?
El autor de la idea, el profesor de Northeastern Weiyan Shi, lo explica así: los agentes de trabajo son como ovejas que deambulan, y el metaagente es el pastor que las devuelve al buen camino. De ahí el nombre del framework, Shepherd, que significa «pastor». El metaagente observa el comportamiento, comprueba la calidad del trabajo y eleva el problema a una persona cuando procede. El humano sigue al mando: puede intervenir y corregir el rumbo del propio metaagente.
Cómo funciona: control de versiones para acciones?
En sistemas como GitHub, los programadores pueden hacer una copia del código («fork»), guardar una versión («commit»), revisar los cambios y volver atrás si algo se rompe. Shepherd hace lo mismo con el trabajo del agente. Está escrito en Python y se apoya en principios de programación funcional. Cada acción del agente, junto con su estado y su entorno (el buzón de correo, el sistema de archivos, etc.), se registra como un commit. Los commits forman un grafo de pasos.
¿Qué se sabe sobre Tres escenarios y lo que aún se desconoce?
Para demostrar que la idea funciona, el equipo montó tres ejemplos: Un supervisor para programadores en paralelo. Intervenía cuando los agentes que escribían código en pareja entraban en conflicto. Esto elevó la proporción de tests superados en uno de los benchmarks. Un optimizador de procesos ya hechos. Proponía cambios puntuales en un flujo de trabajo del agente ya terminado y los comprobaba reejecutando solo las partes afectadas de la ejecución, no la ejecución completa. Así mejoraba el resultado.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.