Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarIEEE Spectrum AI→ original

Shepherd, de Northeastern e Stanford, dá aos agentes de IA um "Git" e a opção de desfazer erros

Agentes que trabalham por muito tempo sem supervisão às vezes fazem algo irreversível: apagam uma caixa de e-mail inteira ou invadem sites. No Shepherd, cada passo do agente é salvo como um "commit", como no Git, e um agente supervisor intercepta a ação perigosa e desfaz o trabalho até um ponto anterior. Um e-mail, por exemplo, cai primeiro em uma sandbox e só é enviado de verdade depois de passar por verificação. Quem desenvolve agentes deveria adotar essa técnica.

Processado por IA de IEEE Spectrum AI; editado por Hamidun News
Shepherd, de Northeastern e Stanford, dá aos agentes de IA um "Git" e a opção de desfazer erros
Fonte: IEEE Spectrum AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalIEEE Spectrum AI ↗
Editor-chefe
Dado-chave #1O código está aberto no GitHub, mas ainda é uma versão alfa, não pronta para produção
O sistema foi testado em três tarefasprogramação em par, otimização e treinamento com RL
Dado-chave #3O artigo será apresentado na NeurIPS em dezembro de 2026

Agentes de IA são lançados para rodar por longos períodos e sem supervisão, e quanto mais tempo trabalham, maior a chance de um deles fazer algo irreversível. Já houve casos de agentes que apagaram uma caixa de e-mail inteira, invadiram sites e até lançaram ciberataques. Pesquisadores da Northeastern University e de Stanford propuseram uma saída que qualquer desenvolvedor conhece: fazer pelos agentes o que o Git faz pelo código.

Cada passo do agente é salvo como um "commit" (um instantâneo do estado), então é possível voltar a qualquer momento. Imagine um agente prestes a enviar a um cliente um e-mail com erro. Em um sistema comum, o e-mail já foi embora.

No Shepherd, a sandbox o intercepta, e um agente supervisor ou uma pessoa decide se o e-mail deve ser enviado de verdade ou se o agente deve voltar um passo. Se o seu agente mexe com e-mail, arquivos ou deploy, vale adotar essa técnica já.

O pastor e as ovelhas

O autor da ideia, o professor Weiyan Shi, da Northeastern, explica assim: os agentes de trabalho são como ovelhas que vagam por aí, e o metaagente é o pastor que as traz de volta ao caminho certo. Daí o nome do framework, Shepherd, que significa "pastor". O metaagente observa o comportamento, verifica a qualidade do trabalho e leva o problema a uma pessoa quando isso é apropriado. O humano continua no comando: pode intervir e até guiar o próprio metaagente.

O princípio é familiar para quem trabalha em equipe. O júnior faz a tarefa, o líder técnico avalia o resultado e, nos casos duvidosos, chama o gestor. Aqui a hierarquia é a mesma, só que quem participa são modelos. Segundo Shi, essa "camada intermediária" é necessária porque, quanto mais tempo os agentes trabalham, mais provável é que cometam erros e executem ações inseguras.

Como funciona: controle de versão para ações

Em sistemas como o GitHub, programadores podem fazer uma cópia do código (um "fork"), salvar uma versão (um "commit"), revisar alterações e voltar atrás se algo quebrar. O Shepherd faz o mesmo com o trabalho do agente. Ele é escrito em Python e se apoia em princípios de programação funcional. Cada ação do agente, junto com seu estado e seu ambiente (caixa de e-mail, sistema de arquivos e assim por diante), é registrada como um commit. Os commits formam um grafo de passos.

Por esse grafo, o metaagente pode ir a qualquer ponto. Ele observa o agente de trabalho, intercepta a ação equivocada, o devolve ao passo anterior e dispara uma variante diferente a partir desse ponto.

Há também uma parte de proteção. Derek Chong, pesquisador de Stanford, diz que o agente de trabalho acha que vive em um mundo normal e que envia e-mails. Na prática, a sandbox do Shepherd intercepta a ação, e quem decide se o e-mail sai é o metaagente ou uma pessoa. Chong chama isso de barreira de proteção e elemento de controle.

Três cenários e o que ainda não se sabe

Para mostrar que a ideia funciona, a equipe montou três exemplos:

  • Supervisor para programadores paralelos. Ele intervinha quando agentes que escreviam código em dupla entravam em conflito. Isso elevou a taxa de testes aprovados em um dos benchmarks.
  • Otimizador de um processo pronto. Ele sugeria ajustes pontuais em um fluxo de trabalho do agente já concluído e os validava reexecutando apenas as partes afetadas da execução, e não a execução inteira de novo. Com isso, o resultado melhorava.
  • Treinador no aprendizado por reforço. Ele escolhia os passos em que valia a pena "ramificar" a execução para que o agente seguisse um caminho melhor, e o recompensava ao longo do processo.

No relato da IEEE Spectrum não há números concretos de ganho, então a dimensão das melhorias só pode ser avaliada pelo próprio artigo. Ele será apresentado na conferência NeurIPS em dezembro de 2026. O Shepherd está aberto no GitHub, mas, segundo Chong, a equipe ainda trabalha para levá-lo da versão alfa a um estado pronto para produção.

O que isso oferece na prática

Mesmo sem esperar por um Shepherd maduro, dá para adotar a abordagem em si. Primeiro, manter um registro dos passos junto com o estado, para poder voltar a qualquer momento. Segundo, enviar as ações perigosas primeiro a uma sandbox e só liberá-las para fora depois de verificadas. Terceiro, colocar um verificador separado acima dos agentes de trabalho, em vez de pedir que um único modelo controle a si mesmo.

O Shepherd faz parte de uma iniciativa mais ampla, a Agent Sciences Research Initiative (ASRI), fundada por Chong e Shi. Pesquisadores da Northeastern, de Stanford e da UC Berkeley trabalham nela. O objetivo do grupo é tornar os agentes mais confiáveis, avaliá-los melhor e aumentar a segurança. Chong considera que a governança de agentes está se tornando cada vez mais importante: os agentes precisam ser capazes de verificar uns aos outros e intervir no trabalho, como fazem os gestores.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre O pastor e as ovelhas?

O autor da ideia, o professor Weiyan Shi, da Northeastern, explica assim: os agentes de trabalho são como ovelhas que vagam por aí, e o metaagente é o pastor que as traz de volta ao caminho certo. Daí o nome do framework, Shepherd, que significa "pastor". O metaagente observa o comportamento, verifica a qualidade do trabalho e leva o problema a uma pessoa quando isso é apropriado. O humano continua no comando: pode intervir e até guiar o próprio metaagente. O princípio é familiar para quem trabalha em equipe.

Como funciona: controle de versão para ações?

Em sistemas como o GitHub, programadores podem fazer uma cópia do código (um "fork"), salvar uma versão (um "commit"), revisar alterações e voltar atrás se algo quebrar. O Shepherd faz o mesmo com o trabalho do agente. Ele é escrito em Python e se apoia em princípios de programação funcional. Cada ação do agente, junto com seu estado e seu ambiente (caixa de e-mail, sistema de arquivos e assim por diante), é registrada como um commit. Os commits formam um grafo de passos.

O que se sabe sobre Três cenários e o que ainda não se sabe?

Para mostrar que a ideia funciona, a equipe montou três exemplos: Supervisor para programadores paralelos. Ele intervinha quando agentes que escreviam código em dupla entravam em conflito. Isso elevou a taxa de testes aprovados em um dos benchmarks. Otimizador de um processo pronto. Ele sugeria ajustes pontuais em um fluxo de trabalho do agente já concluído e os validava reexecutando apenas as partes afetadas da execução, e não a execução inteira de novo. Com isso, o resultado melhorava.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…