Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarIEEE Spectrum AI→ original

Shepherd, de Northeastern y Stanford, da a los agentes de IA un «Git» y la opción de deshacer errores

Los agentes que trabajan durante mucho tiempo sin supervisión a veces hacen algo irreversible: borran un buzón de correo entero o hackean sitios web. En Shepherd, cada paso del agente se guarda como un «commit», igual que en Git, y un agente supervisor intercepta la acción peligrosa y hace retroceder el trabajo. Un correo, por ejemplo, llega primero a un sandbox y solo se envía de verdad después de una verificación. Quienes desarrollan agentes deberían adoptar esta técnica.

Procesado por IA desde IEEE Spectrum AI; editado por Hamidun News
Shepherd, de Northeastern y Stanford, da a los agentes de IA un «Git» y la opción de deshacer errores
Fuente: IEEE Spectrum AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalIEEE Spectrum AI ↗
Editor jefe
Dato clave #1El código es abierto y está en GitHub, pero por ahora es una versión alfa, no lista para producción
Se probó en tres tareasprogramación en pareja, optimización y entrenamiento con RL
Dato clave #3El artículo se presentará en NeurIPS en diciembre de 2026

Los agentes de IA se lanzan para trabajar durante mucho tiempo y sin supervisión, y cuanto más trabajan, mayor es la probabilidad de que alguno haga algo irreversible. Ya ha habido casos en los que un agente borró un buzón de correo entero, hackeó sitios web e incluso lanzó ciberataques. Investigadores de Northeastern University y Stanford proponen una solución que cualquier desarrollador conoce: hacer por los agentes lo que Git hace por el código.

Cada paso del agente se guarda como un «commit» (una instantánea del estado), de modo que siempre se puede volver a cualquier momento anterior. Imagine un agente que está a punto de enviar a un cliente un correo con un error. En un sistema normal, el correo ya habría salido.

En Shepherd lo intercepta un sandbox, y un agente supervisor o una persona decide si el correo se envía de verdad o si se hace retroceder al agente un paso. Si su agente toca el correo, los archivos o los despliegues, conviene adoptar esta técnica ya.

El pastor y las ovejas

El autor de la idea, el profesor de Northeastern Weiyan Shi, lo explica así: los agentes de trabajo son como ovejas que deambulan, y el metaagente es el pastor que las devuelve al buen camino. De ahí el nombre del framework, Shepherd, que significa «pastor». El metaagente observa el comportamiento, comprueba la calidad del trabajo y eleva el problema a una persona cuando procede. El humano sigue al mando: puede intervenir y corregir el rumbo del propio metaagente.

El principio le resultará familiar a cualquiera que trabaje en equipo. Un junior hace una tarea, el líder técnico revisa el resultado y, en los casos dudosos, avisa a su responsable. Aquí hay la misma jerarquía, solo que participan modelos. Según Shi, esta «capa intermedia» es necesaria porque cuanto más tiempo trabajan los agentes, más probables son los errores y las acciones inseguras.

Cómo funciona: control de versiones para acciones

En sistemas como GitHub, los programadores pueden hacer una copia del código («fork»), guardar una versión («commit»), revisar los cambios y volver atrás si algo se rompe. Shepherd hace lo mismo con el trabajo del agente. Está escrito en Python y se apoya en principios de programación funcional. Cada acción del agente, junto con su estado y su entorno (el buzón de correo, el sistema de archivos, etc.), se registra como un commit. Los commits forman un grafo de pasos.

Sobre ese grafo, el metaagente puede saltar a cualquier punto. Observa al agente de trabajo, intercepta la acción errónea, lo devuelve al paso anterior y lanza otra variante desde ese punto.

Hay también una parte de protección. Derek Chong, investigador de Stanford, explica que al agente de trabajo le parece que vive en un mundo normal y que envía correos. En realidad, el sandbox de Shepherd intercepta la acción, y es el metaagente o una persona quien decide si el correo se envía. Chong lo describe como una barrera de protección y un elemento de control.

Tres escenarios y lo que aún se desconoce

Para demostrar que la idea funciona, el equipo montó tres ejemplos:

  • Un supervisor para programadores en paralelo. Intervenía cuando los agentes que escribían código en pareja entraban en conflicto. Esto elevó la proporción de tests superados en uno de los benchmarks.
  • Un optimizador de procesos ya hechos. Proponía cambios puntuales en un flujo de trabajo del agente ya terminado y los comprobaba reejecutando solo las partes afectadas de la ejecución, no la ejecución completa. Así mejoraba el resultado.
  • Un entrenador para el aprendizaje por refuerzo. Elegía los pasos en los que convenía «bifurcar» la ejecución para que el agente siguiera un camino mejor, y lo recompensaba sobre la marcha.

En el resumen de IEEE Spectrum no hay cifras concretas de mejora, así que la magnitud de los avances solo puede evaluarse a partir del propio artículo. Se presentará en la conferencia NeurIPS en diciembre de 2026. Shepherd es de código abierto en GitHub, pero, según Chong, el equipo todavía lo está llevando de versión alfa a un estado listo para producción.

Qué aporta a quien desarrolla agentes

Incluso sin esperar a que Shepherd madure, se puede adoptar el enfoque. Primero, llevar un registro de pasos junto con el estado, para poder volver a cualquier momento. Segundo, enviar primero las acciones peligrosas a un sandbox y dejarlas salir solo después de verificarlas. Tercero, poner por encima de los agentes de trabajo a un revisor independiente, en lugar de pedirle a un solo modelo que se supervise a sí mismo.

Shepherd forma parte de una iniciativa más amplia, la Agent Sciences Research Initiative (ASRI), fundada por Chong y Shi. En ella trabajan investigadores de Northeastern, Stanford y UC Berkeley. El objetivo del grupo es hacer los agentes más fiables, evaluarlos mejor y aumentar su seguridad. Chong cree que la gobernanza de los agentes será cada vez más importante: deben ser capaces de verificarse entre sí e intervenir en el trabajo, como hacen los gerentes.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre El pastor y las ovejas?

El autor de la idea, el profesor de Northeastern Weiyan Shi, lo explica así: los agentes de trabajo son como ovejas que deambulan, y el metaagente es el pastor que las devuelve al buen camino. De ahí el nombre del framework, Shepherd, que significa «pastor». El metaagente observa el comportamiento, comprueba la calidad del trabajo y eleva el problema a una persona cuando procede. El humano sigue al mando: puede intervenir y corregir el rumbo del propio metaagente.

Cómo funciona: control de versiones para acciones?

En sistemas como GitHub, los programadores pueden hacer una copia del código («fork»), guardar una versión («commit»), revisar los cambios y volver atrás si algo se rompe. Shepherd hace lo mismo con el trabajo del agente. Está escrito en Python y se apoya en principios de programación funcional. Cada acción del agente, junto con su estado y su entorno (el buzón de correo, el sistema de archivos, etc.), se registra como un commit. Los commits forman un grafo de pasos.

¿Qué se sabe sobre Tres escenarios y lo que aún se desconoce?

Para demostrar que la idea funciona, el equipo montó tres ejemplos: Un supervisor para programadores en paralelo. Intervenía cuando los agentes que escribían código en pareja entraban en conflicto. Esto elevó la proporción de tests superados en uno de los benchmarks. Un optimizador de procesos ya hechos. Proponía cambios puntuales en un flujo de trabajo del agente ya terminado y los comprobaba reejecutando solo las partes afectadas de la ejecución, no la ejecución completa. Así mejoraba el resultado.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…