Como impedir que um agente de IA extrapole a tarefa: o código verifica o plano antes das edições no site
Pediu-se a correção de uma única página de um site em MODX, mas o agente de IA decidiu alterar um bloco comum (um chunk), e junto com a página necessária mudaram mais algumas dezenas de páginas. A decisão é razoável, mas ninguém havia autorizado isso. O autor tirou o controle do prompt e colocou-o no código: o componente ChangeSet transforma as ideias do agente em um plano e o verifica antes da gravação, sem alterar nada no site. Por isso, os limites da tarefa são mais confiáveis quando mantidos por verificações programáticas, e não por um pedido nas instruções.
Processado por IA de Habr AI; editado por Hamidun News
Imagine: você pede a um agente de IA que corrija o texto de uma página do site, e ele, ao estudar a estrutura do CMS, decide que é mais simples alterar um bloco comum (no MODX ele se chama chunk). Tecnicamente, a decisão está correta, mas, junto com a página necessária, mudarão mais algumas dezenas de páginas em que esse bloco está incluído. Ninguém deu permissão para isso.
O desenvolvedor que conectou o agente ao MODX via MCP (protocolo pelo qual o modelo acessa ferramentas externas) e depois organizou o trabalho autônomo dele com sites em produção contou como resolve esse problema no projeto Site Agent Runtime. A ideia é simples: o agente propõe, mas quem verifica não é o próprio agente nem o prompt, e sim um código comum. O componente principal se chama ChangeSet.
Ele prepara, verifica e registra o plano de alterações, mas não modifica nada no site.
O sistema completo não foi publicado, porém três componentes (Task Manager, ChangeSet e State Guard) o autor disponibilizou no GitHub, com testes automatizados. Há também uma demonstração interativa: o código Python real é executado diretamente no navegador via Pyodide, e é possível ver quais operações o sistema permite e quais rejeita.
A decisão do agente não é motivo para alterar o site
O autor separou três etapas: tomada de decisão, preparação do plano e execução. O TaskSpec descreve a tarefa e as ações permitidas. O Resolver associa essas ações a objetos concretos do site. O DecisionSet registra as decisões técnicas do agente. O ChangeSet transforma tudo isso em um plano verificável, que depois é recebido por um Executor separado.
O método bind_scope() vincula cada operação ao alvo encontrado pelo Resolver e verifica o tipo do objeto, o seu status e a ação permitida. Se foi autorizado atualizar um recurso e o agente quer excluí-lo, a operação é rejeitada. O mesmo acontece se ele tentar mexer em um objeto alheio. Se a edição afetar um elemento usado por vários recursos, é necessária uma confirmação explícita, independentemente da avaliação de risco que o próprio agente indicar.
Duas gravações bem-sucedidas e uma alteração perdida
Os documentos ficam em arquivos JSON: com um número pequeno de tarefas, um banco de dados separado não é necessário. A gravação passa por um arquivo temporário com flush, fsync e os.replace(), e a sincronização é garantida por um bloqueio fcntl.flock. Parece confiável. Mas, se dois processos leram a mesma revisão, prepararam edições diferentes e as salvaram em sequência, ambas as gravações passarão sem erros, e o resultado da primeira desaparecerá. Trata-se de um lost update clássico. A substituição atômica protege contra um arquivo gravado pela metade, mas não contra a gravação sobre dados desatualizados.
O autor não quis manter um bloqueio exclusivo durante toda a preparação do plano: um único processo atrasaria os demais mesmo quando o armazenamento não lhe fosse necessário. Ele optou pelo controle otimista. O plano é preparado sem bloqueio e, antes de salvar, o documento é relido e comparado com o que foi lido no início. Se não coincidirem, o sistema devolve o erro "recarregue e repita", em vez de sobrescrever silenciosamente.
Foi preciso comparar o documento inteiro, e não apenas o número de revisão (revision). A operação seal() muda o plano de draft para sealed, mas não incrementa o número da revisão. Um processo com uma cópia antiga do rascunho poderia apagar um plano já registrado.
Para corridas desse tipo, um teste comum quase não serve: ele pode passar dezenas de vezes mesmo com o erro presente. Em test_competing_writers_cannot_lose_revision, duas threads leem a mesma versão e se aguardam em um threading.Barrier. Em seguida, ambas tentam salvar, e o teste exige que apenas uma tenha sucesso e a outra receba um conflito. São threads de um mesmo processo, mas os métodos reais do ChangeSet são verificados. Um teste separado simula o caso em que o documento foi registrado entre a leitura e a gravação. As verificações rodam no GitHub Actions, em Linux, com Python 3.10 a 3.13.
Integridade não equivale a autorização
Depois de seal(), o método set() comum não permite alterar o conteúdo, pois caso contrário se verificaria um plano e se executaria outro. As correções são feitas via amend(): o método preserva o histórico, incrementa a revisão, devolve o documento ao estado draft e descarta a confirmação anterior. Se o usuário aprovou a alteração de três recursos, um quarto não herda essa permissão.
A integridade do plano é controlada pelo hash canônico SHA-256. Antes do registro, ele é conferido com o conteúdo do rascunho, e o documento já registrado tem o hash recalculado nas verificações seguintes. O teste test_frozen_payload_recalculated altera o conteúdo de um documento registrado e confirma que o plano é considerado não pronto para execução.
Mas o hash mostra que o documento foi alterado, não quem o alterou. Se o agente chama approve(source="user"), trata-se de uma simples string, que ele mesmo pode enviar: ou seja, ele propõe uma operação perigosa e ele próprio informa que o usuário a aprovou. Por isso, na versão publicada, approve() rejeita qualquer chamada, e planos que exigem aprovação não podem ser registrados via seal() para contornar a regra. Não há aqui um canal de confirmação independente e confiável, e o autor não finge que ele existe.
Um plano correto também pode ficar desatualizado
Mesmo que o plano atenda à tarefa, esteja registrado e tenha passado na verificação do hash, o próprio site pode mudar durante a preparação. O agente leu um recurso, preparou a edição, registrou o ChangeSet, e alguém já havia alterado o objeto. Para isso, o plano guarda um read_set: informações sobre os objetos de origem e seus fingerprints de controle, com os quais depois se verifica se os dados ainda estão atuais.
A conclusão prática para quem dá acesso à produção a agentes é que os limites da tarefa, as versões de estado e as confirmações devem ser garantidos por código determinístico, e não por pedidos no prompt. Parte desses problemas, como a perda de uma gravação, nem sequer está ligada à IA e se resolve com disciplina de engenharia comum. Ressalva: os componentes publicados são demonstrativos e não constituem uma biblioteca pronta para gerenciar sites.
- 1 de nov. de 2026Juiz do EditAgent, da Adobe, escolhe uma edição aceitável em 81,3% dos casos, contra 74,8% do EditScore
- 21 de nov. de 2026LeetCode lança desafios de vibe coding: 12 projetos de 60 minutos com agente de IA
- 24 de out. de 2026Vercel Agent acessa a produção por meio de um plano com scopes e uma única aprovação
- 30 de abr. de 2026Habr AI descreve a arquitetura de um agente reflexivo: menos piloto automático, mais autoverificação
Perguntas frequentes sobre a notícia
O que se sabe sobre A decisão do agente não é motivo para alterar o site?
O autor separou três etapas: tomada de decisão, preparação do plano e execução. O TaskSpec descreve a tarefa e as ações permitidas. O Resolver associa essas ações a objetos concretos do site. O DecisionSet registra as decisões técnicas do agente. O ChangeSet transforma tudo isso em um plano verificável, que depois é recebido por um Executor separado. O método bind_scope() vincula cada operação ao alvo encontrado pelo Resolver e verifica o tipo do objeto, o seu status e a ação permitida.
O que se sabe sobre Duas gravações bem-sucedidas e uma alteração perdida?
Os documentos ficam em arquivos JSON: com um número pequeno de tarefas, um banco de dados separado não é necessário. A gravação passa por um arquivo temporário com flush, fsync e os.replace(), e a sincronização é garantida por um bloqueio fcntl.flock. Parece confiável. Mas, se dois processos leram a mesma revisão, prepararam edições diferentes e as salvaram em sequência, ambas as gravações passarão sem erros, e o resultado da primeira desaparecerá. Trata-se de um lost update clássico.
O que se sabe sobre Integridade não equivale a autorização?
Depois de seal(), o método set() comum não permite alterar o conteúdo, pois caso contrário se verificaria um plano e se executaria outro. As correções são feitas via amend(): o método preserva o histórico, incrementa a revisão, devolve o documento ao estado draft e descarta a confirmação anterior. Se o usuário aprovou a alteração de três recursos, um quarto não herda essa permissão. A integridade do plano é controlada pelo hash canônico SHA-256.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.