As permissões dos agentes de IA devem crescer com suas capacidades, como faz a Anthropic

A Anthropic lançou um guia de engenharia sobre o gerenciamento de permissões de agentes de IA. A principal conclusão: à medida que os agentes ficam mais poderosos e executam tarefas mais complexas, suas permissões precisam evoluir. A empresa usa sandboxing, técnica que restringe ações potencialmente destrutivas e protege os sistemas contra erros.

Por que isso é crítico

Os agentes de IA recebem cada vez mais acesso a ferramentas externas: navegador, sistema de arquivos, APIs, bancos de dados. Isso amplia suas capacidades, mas também aumenta o risco. Se o agente errar, ou for induzido por uma solicitação mal formulada, ele pode apagar dados importantes, enviar um e-mail indevido a partir da sua conta ou fazer uma operação financeira incorreta.

A Anthropic ressalta que permissões não são um conjunto estático de autorizações. Elas devem crescer junto com as capacidades e a confiabilidade do agente. Um agente novo recebe o mínimo de direitos e, conforme demonstra estabilidade e compreensão do contexto, suas permissões são ampliadas gradualmente.

Como funciona o sandboxing

Sandboxing é isolamento. O agente age em um ambiente limitado, do qual não consegue sair nem danificar o restante do sistema. Exemplos:

• O agente só pode editar arquivos na pasta /tmp, sem tocar nos diretórios do sistema
• Requisições de API passam por uma camada de proxy que verifica cada chamada
• Um agente de navegador vê apenas determinados sites; os demais são bloqueados
• Operações financeiras exigem confirmação adicional ou têm limite de valor
• Bancos de dados ficam disponíveis somente para leitura, ou apenas para certas tabelas

Essa abordagem dá ao agente liberdade suficiente para trabalhar e, ao mesmo tempo, o mantém dentro dos limites de segurança.

A abordagem prática da Anthropic

Nos seus produtos, incluindo o Claude e os novos frameworks de agentes, a Anthropic aplica esses princípios na prática. Ao implantar um agente, primeiro se define quais ferramentas ele pode usar e como devem ser restritas. Por exemplo, se o agente serve para responder perguntas sobre a sua documentação, ele recebe acesso apenas a essa documentação. Se ajuda a gerenciar a agenda, permite-se que leia e escreva somente eventos, sem gerenciar outros aspectos da conta.

É especialmente importante montar um sistema de monitoramento. A empresa recomenda registrar todas as ações do agente: quais comandos executou, quais ferramentas usou, quais erros ocorreram. Auditorias regulares ajudam a detectar rapidamente comportamentos estranhos. Se o agente começar a fazer coisas imprevistas ou romper seus padrões habituais, o sistema deve alertar ou bloqueá-lo.

"Confiança não é uma escolha binária.

É um espectro, e o agente deve receber exatamente as permissões de que precisa para trabalhar naquele momento", diz o guia da Anthropic.

À medida que o agente demonstra estabilidade e compreensão do contexto, suas permissões podem ser ampliadas aos poucos. Mas isso deve ser um processo consciente e gradual, não uma promoção automática baseada no tempo de operação.

O que isso significa

Sandboxing adequado e permissões dinâmicas não são apenas boas práticas: são uma necessidade ao implantar agentes de IA em produção. Para organizações que implantam agentes de IA em seus sistemas, isso significa: pensar com cuidado no que o agente deve fazer e de quais dados precisa, definir o escopo exato de suas permissões e restrições, monitorar o comportamento em tempo real e ampliar as permissões gradualmente conforme a confiabilidade do agente cresce.

Isso é ainda mais importante em cenários críticos: se o agente tem acesso a dados financeiros, prontuários médicos, informações pessoais ou infraestrutura crítica, o risco de erro se torna enorme.

Para empresas de IA como a Anthropic, significa incorporar esses princípios à arquitetura do produto desde o início, e não adicioná-los depois como um patch.