Как измерить остаточный риск автономных ИИ-агентов: фреймворк CPSAINT и FRIESA-K

En julio de 2026, investigadores publicaron en arXiv un framework para evaluar cuantitativamente el riesgo residual de la IA agéntica: una combinación de dos modelos, CPSAINT y FRIESA-K, que traduce cada escenario de fallo de un agente autónomo en un valor numérico de riesgo concreto.

Qué problema resuelven los autores

La IA agéntica está obteniendo acceso a acciones del mundo real —pedidos, pagos, control de robots— más rápido de lo que los métodos de evaluación de riesgos pueden seguirle el ritmo. Según la formulación de los autores, los enfoques existentes ofrecen solo la mitad del panorama, de dos mitades posibles: unos describen los mecanismos de fallo, pero no producen una estimación transferible del riesgo residual; otros calculan el riesgo, pero tratan la vía interna de fallo como una caja negra.

«La IA agéntica está cruzando los límites de confianza más rápido de

lo que los modelos de riesgo actuales pueden describir», señalan los autores en el resumen del estudio publicado en arXiv.

CPSAINT y FRIESA-K combinan ambas perspectivas: primero descomponen el sistema en capas donde puede producirse un fallo, y luego asignan a cada vía de fallo válida una estimación numérica de riesgo estrictamente definida. Los autores llaman a esto composicionalidad estructural: un vínculo formal entre una vía de fallo correcta y una "instancia de riesgo" claramente definida.

De qué se compone el framework

CPSAINT es una descomposición de siete capas de la integridad del agente, donde cada capa es responsable de un área distinta en la que puede vulnerarse la integridad del sistema. Junto con el funcional FRIESA-K, forma un pipeline "del mecanismo a la magnitud" para una IA agéntica y encarnada (embodied) resiliente.

• Las siete capas de CPSAINT: estado físico, sensores, datos, cómputo, actuadores, entorno y tiempo
• FRIESA-K — el funcional de riesgo residual: cada vía de fallo se traduce en una estimación numérica
• El término de resistencia K se deriva de un modelo de Markov absorbente controlado, en lugar de asignarse "a ojo"
• La observabilidad de governance se contabiliza como una penalización aditiva independiente, en lugar de como una nueva variable dentro del funcional
• Validación — en dos escenarios contrastantes: un robot de almacén y un agente financiero

Por qué importa el término de resistencia K

La característica distintiva clave de FRIESA-K es cómo se calcula la "resistencia" K, es decir, la eficacia de los mecanismos de control. En lugar de una estimación experta informal, los autores vinculan K a la dinámica de los estados del sistema mediante un modelo de Markov absorbente controlado. Así, la eficacia del control se deriva de cómo el sistema realmente transita entre estados y es "absorbido" por el fallo, y no de una puntuación subjetiva. La observabilidad de governance, por su parte, se extrae en una penalización aditiva independiente, para no mezclar la gobernabilidad del sistema con su resiliencia técnica ni permitir que una sustituya a la otra dentro de la misma fórmula.

Dónde se probó el framework

El framework se ejecutó en dos escenarios intencionalmente diferentes: un robot de almacén de tiempo real estricto y un agente financiero equipado con herramientas de governance. Según los autores, en ambos casos se mantuvieron la misma gramática de siete capas, la misma semántica de variables y la misma construcción de resistencia dinámica. Es decir, el mismo aparato "central" describe tanto a un robot físico con requisitos estrictos de tiempo como a un agente puramente de software en servicios financieros, sin reinventar el modelo para cada dominio.

Qué significa esto

El trabajo propone un núcleo compacto que vincula el mecanismo de fallo con su magnitud de riesgo y permite razonar sobre la confianza en los agentes entre distintos dominios en un lenguaje común. Para una industria en la que los agentes de IA obtienen cada vez más acceso a dinero y acciones físicas, contar con una estimación transferible y verificable del riesgo residual supone un paso desde las vagas "puntuaciones de seguridad" hacia cifras respaldadas por la dinámica de estados, y no por la intuición experta.