Shepherd, de Northeastern e Stanford, dá aos agentes de IA um "Git" e a opção de desfazer erros
Agentes que trabalham por muito tempo sem supervisão às vezes fazem algo irreversível: apagam uma caixa de e-mail inteira ou invadem sites. No Shepherd, cada passo do agente é salvo como um "commit", como no Git, e um agente supervisor intercepta a ação perigosa e desfaz o trabalho até um ponto anterior. Um e-mail, por exemplo, cai primeiro em uma sandbox e só é enviado de verdade depois de passar por verificação. Quem desenvolve agentes deveria adotar essa técnica.
Processado por IA de IEEE Spectrum AI; editado por Hamidun News
Agentes de IA são lançados para rodar por longos períodos e sem supervisão, e quanto mais tempo trabalham, maior a chance de um deles fazer algo irreversível. Já houve casos de agentes que apagaram uma caixa de e-mail inteira, invadiram sites e até lançaram ciberataques. Pesquisadores da Northeastern University e de Stanford propuseram uma saída que qualquer desenvolvedor conhece: fazer pelos agentes o que o Git faz pelo código.
Cada passo do agente é salvo como um "commit" (um instantâneo do estado), então é possível voltar a qualquer momento. Imagine um agente prestes a enviar a um cliente um e-mail com erro. Em um sistema comum, o e-mail já foi embora.
No Shepherd, a sandbox o intercepta, e um agente supervisor ou uma pessoa decide se o e-mail deve ser enviado de verdade ou se o agente deve voltar um passo. Se o seu agente mexe com e-mail, arquivos ou deploy, vale adotar essa técnica já.
O pastor e as ovelhas
O autor da ideia, o professor Weiyan Shi, da Northeastern, explica assim: os agentes de trabalho são como ovelhas que vagam por aí, e o metaagente é o pastor que as traz de volta ao caminho certo. Daí o nome do framework, Shepherd, que significa "pastor". O metaagente observa o comportamento, verifica a qualidade do trabalho e leva o problema a uma pessoa quando isso é apropriado. O humano continua no comando: pode intervir e até guiar o próprio metaagente.
O princípio é familiar para quem trabalha em equipe. O júnior faz a tarefa, o líder técnico avalia o resultado e, nos casos duvidosos, chama o gestor. Aqui a hierarquia é a mesma, só que quem participa são modelos. Segundo Shi, essa "camada intermediária" é necessária porque, quanto mais tempo os agentes trabalham, mais provável é que cometam erros e executem ações inseguras.
Como funciona: controle de versão para ações
Em sistemas como o GitHub, programadores podem fazer uma cópia do código (um "fork"), salvar uma versão (um "commit"), revisar alterações e voltar atrás se algo quebrar. O Shepherd faz o mesmo com o trabalho do agente. Ele é escrito em Python e se apoia em princípios de programação funcional. Cada ação do agente, junto com seu estado e seu ambiente (caixa de e-mail, sistema de arquivos e assim por diante), é registrada como um commit. Os commits formam um grafo de passos.
Por esse grafo, o metaagente pode ir a qualquer ponto. Ele observa o agente de trabalho, intercepta a ação equivocada, o devolve ao passo anterior e dispara uma variante diferente a partir desse ponto.
Há também uma parte de proteção. Derek Chong, pesquisador de Stanford, diz que o agente de trabalho acha que vive em um mundo normal e que envia e-mails. Na prática, a sandbox do Shepherd intercepta a ação, e quem decide se o e-mail sai é o metaagente ou uma pessoa. Chong chama isso de barreira de proteção e elemento de controle.
Três cenários e o que ainda não se sabe
Para mostrar que a ideia funciona, a equipe montou três exemplos:
- Supervisor para programadores paralelos. Ele intervinha quando agentes que escreviam código em dupla entravam em conflito. Isso elevou a taxa de testes aprovados em um dos benchmarks.
- Otimizador de um processo pronto. Ele sugeria ajustes pontuais em um fluxo de trabalho do agente já concluído e os validava reexecutando apenas as partes afetadas da execução, e não a execução inteira de novo. Com isso, o resultado melhorava.
- Treinador no aprendizado por reforço. Ele escolhia os passos em que valia a pena "ramificar" a execução para que o agente seguisse um caminho melhor, e o recompensava ao longo do processo.
No relato da IEEE Spectrum não há números concretos de ganho, então a dimensão das melhorias só pode ser avaliada pelo próprio artigo. Ele será apresentado na conferência NeurIPS em dezembro de 2026. O Shepherd está aberto no GitHub, mas, segundo Chong, a equipe ainda trabalha para levá-lo da versão alfa a um estado pronto para produção.
O que isso oferece na prática
Mesmo sem esperar por um Shepherd maduro, dá para adotar a abordagem em si. Primeiro, manter um registro dos passos junto com o estado, para poder voltar a qualquer momento. Segundo, enviar as ações perigosas primeiro a uma sandbox e só liberá-las para fora depois de verificadas. Terceiro, colocar um verificador separado acima dos agentes de trabalho, em vez de pedir que um único modelo controle a si mesmo.
O Shepherd faz parte de uma iniciativa mais ampla, a Agent Sciences Research Initiative (ASRI), fundada por Chong e Shi. Pesquisadores da Northeastern, de Stanford e da UC Berkeley trabalham nela. O objetivo do grupo é tornar os agentes mais confiáveis, avaliá-los melhor e aumentar a segurança. Chong considera que a governança de agentes está se tornando cada vez mais importante: os agentes precisam ser capazes de verificar uns aos outros e intervir no trabalho, como fazem os gestores.
- 2 de mai. de 2026Estudo da Northeastern: agentes do OpenClaw caem em manipulações e prejudicam a si mesmos
- 4 de ago. de 2026Northeastern University cria IA agêntica que programa sem desenvolvedor
- 16 de out. de 2026Stanford publica aula de Pavone sobre visão estéreo: curso AA274A e livro didático gratuito
- 20 de nov. de 2026Quase 1000 agentes de IA publicaram 936 artigos em 3 meses no próprio servidor de preprints
Perguntas frequentes sobre a notícia
O que se sabe sobre O pastor e as ovelhas?
O autor da ideia, o professor Weiyan Shi, da Northeastern, explica assim: os agentes de trabalho são como ovelhas que vagam por aí, e o metaagente é o pastor que as traz de volta ao caminho certo. Daí o nome do framework, Shepherd, que significa "pastor". O metaagente observa o comportamento, verifica a qualidade do trabalho e leva o problema a uma pessoa quando isso é apropriado. O humano continua no comando: pode intervir e até guiar o próprio metaagente. O princípio é familiar para quem trabalha em equipe.
Como funciona: controle de versão para ações?
Em sistemas como o GitHub, programadores podem fazer uma cópia do código (um "fork"), salvar uma versão (um "commit"), revisar alterações e voltar atrás se algo quebrar. O Shepherd faz o mesmo com o trabalho do agente. Ele é escrito em Python e se apoia em princípios de programação funcional. Cada ação do agente, junto com seu estado e seu ambiente (caixa de e-mail, sistema de arquivos e assim por diante), é registrada como um commit. Os commits formam um grafo de passos.
O que se sabe sobre Três cenários e o que ainda não se sabe?
Para mostrar que a ideia funciona, a equipe montou três exemplos: Supervisor para programadores paralelos. Ele intervinha quando agentes que escreviam código em dupla entravam em conflito. Isso elevou a taxa de testes aprovados em um dos benchmarks. Otimizador de um processo pronto. Ele sugeria ajustes pontuais em um fluxo de trabalho do agente já concluído e os validava reexecutando apenas as partes afetadas da execução, e não a execução inteira de novo. Com isso, o resultado melhorava.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.