Como medir o risco residual de agentes de IA autônomos: o framework CPSAINT e FRIESA-K

Em julho de 2026, pesquisadores publicaram no arXiv um framework para a avaliação quantitativa do risco residual da IA agêntica. Trata-se de uma combinação de dois modelos, CPSAINT e FRIESA-K, que converte cada cenário de falha de um agente autônomo em um valor numérico concreto de risco.

Qual problema os autores querem resolver

A IA agêntica ganha acesso a ações no mundo real, como pedidos, pagamentos e controle de robôs, mais rápido do que os métodos de avaliação de risco conseguem acompanhar. Segundo os autores, as abordagens existentes entregam apenas metade do quadro, de um total de duas metades possíveis: algumas descrevem os mecanismos de falha, mas não produzem uma estimativa transferível de risco residual; outras calculam o risco, mas tratam o caminho interno da falha como uma caixa-preta.

"A IA agêntica cruza fronteiras de confiança mais rápido do que os

modelos de risco atuais conseguem descrever", afirmam os autores no resumo do estudo no arXiv.

O CPSAINT e o FRIESA-K combinam as duas visões. Primeiro, decompõem o sistema nas camadas em que uma falha pode ocorrer. Depois, associam a cada caminho de falha válido uma estimativa numérica de risco rigorosamente definida. Os autores chamam isso de composicionalidade estrutural: uma ligação formal entre um caminho de falha correto e uma "instância de risco" bem especificada.

Do que o framework é feito

O CPSAINT é uma decomposição da integridade do agente em sete camadas, cada uma responsável por um ponto em que a integridade do sistema pode ser comprometida. Junto com o funcional FRIESA-K, ele forma um pipeline "do mecanismo à magnitude" para uma IA agêntica e incorporada (embodied) robusta.

• Sete camadas do CPSAINT: estado físico, sensores, dados, computação, atuadores, ambiente e tempo
• FRIESA-K é o funcional de risco residual: cada caminho de falha é mapeado para uma estimativa numérica
• O termo de resistência K é derivado de um modelo de Markov absorvente controlado, e não atribuído "no olhômetro"
• A observabilidade de governança entra como uma penalidade aditiva separada, e não como uma nova variável dentro do funcional
• A validação foi feita em dois cenários contrastantes: um robô de armazém e um agente financeiro

Por que o termo de resistência K é importante

A principal diferença do FRIESA-K está em como se calcula a "resistência" K, isto é, a eficácia dos controles. Em vez de uma avaliação informal de especialistas, os autores vinculam o K à dinâmica de estados do sistema por meio de um modelo de Markov absorvente controlado. Assim, a eficácia do controle é derivada de como o sistema realmente transita entre estados e é "absorvido" pela falha, e não de uma nota subjetiva. A observabilidade de governança, por sua vez, fica numa penalidade aditiva separada, para não misturar a governabilidade do sistema com sua robustez técnica nem substituir uma pela outra dentro da mesma fórmula.

Onde o framework foi testado

O framework foi aplicado a dois cenários deliberadamente distintos: um robô de armazém com requisitos rígidos de tempo real e um agente financeiro equipado com ferramentas de governança. Segundo os autores, em ambos os casos permaneceram iguais a gramática das sete camadas, a semântica das variáveis e a construção da resistência dinâmica. Ou seja, o mesmo aparato central descreve tanto um robô físico com exigências estritas de tempo quanto um agente puramente de software em serviços financeiros, sem precisar reinventar o modelo para cada domínio.

O que isso significa

O trabalho propõe um núcleo compacto que liga o mecanismo de falha à sua magnitude de risco e permite raciocinar sobre a confiança em agentes de diferentes domínios numa linguagem comum. Para uma indústria em que agentes de IA recebem acesso cada vez maior a dinheiro e a ações físicas, uma estimativa de risco residual transferível e verificável é um passo para sair de "avaliações de segurança" vagas e chegar a números sustentados pela dinâmica de estados, e não pela intuição de especialistas.