Как измерить остаточный риск автономных ИИ-агентов: фреймворк CPSAINT и FRIESA-K

Em julho de 2026, pesquisadores publicaram no arXiv um framework para avaliar quantitativamente o risco residual da IA agêntica — uma combinação de dois modelos, CPSAINT e FRIESA-K, que traduz cada cenário de falha de um agente autônomo em um valor numérico de risco concreto.

Que problema os autores resolvem

A IA agêntica está ganhando acesso a ações do mundo real — pedidos, pagamentos, controle de robôs — mais rápido do que os métodos de avaliação de risco conseguem acompanhar. Segundo a formulação dos autores, as abordagens existentes oferecem apenas metade do quadro, entre duas metades possíveis: algumas descrevem mecanismos de falha, mas não produzem uma estimativa transferível de risco residual; outras calculam o risco, mas tratam o caminho interno da falha como uma caixa-preta.

"A IA agêntica está cruzando fronteiras de confiança mais rápido do

que os modelos de risco atuais conseguem descrever", afirmam os autores no resumo do estudo publicado no arXiv.

CPSAINT e FRIESA-K combinam as duas perspectivas: primeiro decompõem o sistema em camadas onde uma falha pode ocorrer, depois associam a cada caminho de falha válido uma estimativa numérica de risco estritamente definida. Os autores chamam isso de composicionalidade estrutural — uma ligação formal entre um caminho de falha correto e uma "instância de risco" claramente definida.

Do que o framework é composto

CPSAINT é uma decomposição em sete camadas da integridade do agente, em que cada camada é responsável por uma área distinta na qual a integridade do sistema pode ser violada. Junto com o funcional FRIESA-K, ele forma um pipeline "do mecanismo à magnitude" para uma IA agêntica e incorporada (embodied) resiliente.

• As sete camadas do CPSAINT: estado físico, sensores, dados, computação, atuadores, ambiente e tempo
• FRIESA-K — o funcional de risco residual: cada caminho de falha é mapeado para uma estimativa numérica
• O termo de resistência K é derivado de um modelo de Markov absorvente controlado, em vez de ser atribuído "no olho"
• A observabilidade de governance é contabilizada como uma penalidade aditiva separada, em vez de uma nova variável dentro do funcional
• Validação — em dois cenários contrastantes: um robô de armazém e um agente financeiro

Por que o termo de resistência K importa

A característica distintiva-chave do FRIESA-K é como se calcula a "resistência" K, ou seja, a eficácia dos meios de controle. Em vez de uma avaliação especializada informal, os autores vinculam K à dinâmica dos estados do sistema por meio de um modelo de Markov absorvente controlado. Assim, a eficácia do controle é derivada de como o sistema realmente transita entre estados e é "absorvido" pela falha, e não de uma pontuação subjetiva. A observabilidade de governance, por sua vez, é destacada em uma penalidade aditiva separada — para não misturar a governabilidade do sistema com sua resiliência técnica, nem deixar que uma substitua a outra dentro da mesma fórmula.

Onde o framework foi testado

O framework foi executado em dois cenários intencionalmente diferentes: um robô de armazém de tempo real rígido e um agente financeiro equipado com ferramentas de governance. Segundo os autores, em ambos os casos se mantiveram a mesma gramática de sete camadas, a mesma semântica de variáveis e a mesma construção de resistência dinâmica. Ou seja, o mesmo aparato "central" descreve tanto um robô físico com requisitos rígidos de tempo quanto um agente puramente de software em serviços financeiros — sem reinventar o modelo para cada domínio.

O que isso significa

O trabalho propõe um núcleo compacto que liga o mecanismo de falha à sua magnitude de risco e permite raciocinar sobre a confiança em agentes entre diferentes domínios em uma linguagem comum. Para uma indústria em que os agentes de IA cada vez mais têm acesso a dinheiro e ações físicas, uma estimativa transferível e verificável de risco residual representa um passo das vagas "pontuações de segurança" rumo a números respaldados pela dinâmica de estados, e não pela intuição especializada.