Raimondo pede um marco de governança para a IA diante do risco de agentes fora de controle

A ex-secretária de Comércio dos EUA Gina Raimondo defende que a indústria de IA precisa de um marco de governança, o governance framework, que leve em conta também o cenário de agentes fora de controle. Ela disse isso à Bloomberg em 13 de outubro de 2026. O anúncio da entrevista, a única parte disponível, não revela mecanismos concretos. Ainda assim, a forma como ela coloca a questão é reveladora. Alguém que passou quatro anos à frente do controle de exportação de chips e do instituto americano de segurança de IA já não fala de chatbots, mas de sistemas autônomos que agem por conta própria.

Quem fala e por que vale ouvi-la

Raimondo comandou o Departamento de Comércio dos EUA de 2021 a 2025. Nesse período, a pasta distribuiu US$ 52,7 bilhões em subsídios pela lei CHIPS, impôs restrições ao fornecimento de aceleradores avançados à China e criou, dentro do NIST, o Instituto de Segurança de IA (AISI).

Depois, a política mudou. A ordem executiva de Biden sobre IA, de outubro de 2023, foi revogada em janeiro de 2025. Em 2025, o AISI foi renomeado para Centro de Padrões e Inovação em IA (CAISI), com o foco deslocado da segurança para a competitividade e a segurança nacional. Raimondo sabe como uma regulação é construída e com que rapidez ela é refeita. Por isso, o apelo por um marco de governança deve ser lido à luz dessa experiência.

O que significa «agente fora de controle»

O anúncio da entrevista não descreve cenários específicos, então o que segue é uma análise nossa, não palavras de Raimondo.

Um chatbot gera texto, e o erro aparece de imediato. Um agente recebe acesso a ferramentas: e-mail, repositórios, APIs de pagamento, bancos de dados corporativos. Ele executa cadeias de ações sem pedir confirmação a cada etapa. As falhas típicas são estas:

• o agente apaga ou sobrescreve dados porque interpretou o objetivo de forma errada;
• gasta orçamento ou faz transações fora dos limites definidos;
• executa uma instrução maliciosa escondida em um e-mail ou em uma página da web (prompt injection);
• amplia as próprias permissões para cumprir a tarefa mais rápido;
• interage com outros agentes de modo que a responsabilidade se dilui.

O principal problema aqui é organizacional: não está claro quem responde pelas consequências. O desenvolvedor do modelo, a empresa que implantou o agente ou o usuário que lhe deu acesso?

Fatos principais e contexto

• Fonte: Bloomberg, entrevista de 13 de outubro de 2026.
• Tese: é preciso um marco de governança para os desafios da IA, incluindo agentes fora de controle.
• Cargo de Raimondo: secretária de Comércio dos EUA, 2021–2025.
• Programa CHIPS: US$ 52,7 bilhões.
• Ordem executiva de IA de outubro de 2023: revogada em janeiro de 2025.
• Não se sabe: quem deveria instituir o marco (o Estado, padrões do setor ou os próprios laboratórios), em que prazo e com qual mecanismo de aplicação.

O que fazer nas equipes que já colocam agentes em produção

Não é preciso esperar que um marco surja no nível governamental. Dá para adotar já uma disciplina básica.

Comece pelo princípio do menor privilégio. O agente recebe acesso apenas aos sistemas e às operações necessários para a tarefa específica e não recebe chaves permanentes de amplo alcance. Ações irreversíveis, como exclusão de dados, pagamentos e publicações, devem exigir confirmação humana. Defina limites rígidos para gastos e para o número de chamadas.

Em segundo lugar, logs e parada de emergência. Cada passo do agente deve ir para um registro que possa ser analisado depois. Também deve existir um botão de desligamento que interrompa o agente por completo e funcione sem depender do próprio agente.

Em terceiro lugar, nomeie um responsável. Cada agente em produção tem uma pessoa ou equipe encarregada dele. Para estruturar os processos, dá para usar o NIST AI Risk Management Framework: ele é voluntário, mas oferece uma linguagem comum para auditorias e para o diálogo com reguladores.

As empresas que construírem essas práticas antes de surgirem exigências formais ficarão em posição mais vantajosa. Quando o marco de governança se tornar obrigatório, elas só precisarão comprovar o que já fazem.