Cómo medir el riesgo residual de los agentes de IA autónomos: el marco CPSAINT y FRIESA-K

En julio de 2026, un grupo de investigadores publicó en arXiv un marco para cuantificar el riesgo residual de la IA agéntica. Se trata de la combinación de dos modelos, CPSAINT y FRIESA-K, que traduce cada escenario de fallo de un agente autónomo en un valor numérico concreto de riesgo.

Qué problema abordan los autores

La IA agéntica accede a acciones reales (pedidos, pagos, control de robots) más rápido de lo que los métodos de evaluación de riesgos logran seguirle el ritmo. Según los autores, los enfoques existentes ofrecen solo la mitad del cuadro, de las dos mitades posibles: unos describen los mecanismos de fallo, pero no producen una estimación transferible del riesgo residual; otros calculan el riesgo, pero tratan la ruta interna del fallo como una caja negra.

«La IA agéntica cruza las fronteras de la confianza más rápido de lo

que los modelos de riesgo actuales pueden describir», según la formulación de los autores en el resumen del estudio en arXiv.

CPSAINT y FRIESA-K combinan ambas perspectivas. Primero descomponen el sistema en capas donde puede producirse un fallo y, después, asignan a cada ruta de fallo válida una estimación numérica de riesgo estrictamente definida. Los autores lo llaman composicionalidad estructural: un vínculo formal entre una ruta de fallo correcta y una «instancia de riesgo» claramente definida.

De qué se compone el marco

CPSAINT es una descomposición de la integridad del agente en siete capas, cada una de las cuales responde de un tramo concreto donde la integridad del sistema puede romperse. Junto con el funcional FRIESA-K, forma un pipeline «del mecanismo a la magnitud» para una IA agéntica y corporeizada (embodied) más robusta.

• Las siete capas de CPSAINT: estado físico, sensores, datos, cómputo, actuadores, entorno y tiempo
• FRIESA-K es el funcional de riesgo residual: cada ruta de fallo se proyecta en una estimación numérica
• El término de resistencia K se deriva de un modelo de Markov absorbente controlado, y no se asigna «a ojo»
• La observabilidad de la gobernanza se tiene en cuenta mediante una penalización aditiva independiente, y no como una nueva variable dentro del funcional
• La validación se hizo en dos escenarios contrastados: un robot de almacén y un agente financiero

Por qué importa el término de resistencia K

La diferencia clave de FRIESA-K está en cómo se calcula la «resistencia» K, es decir, la eficacia de los controles. En lugar de una estimación experta informal, los autores vinculan K con la dinámica de estados del sistema mediante un modelo de Markov absorbente controlado. De este modo, la eficacia del control se deduce de cómo transita realmente el sistema entre estados y es «absorbido» por el fallo, y no de una puntuación subjetiva. La observabilidad de la gobernanza se separa en una penalización aditiva independiente, para no mezclar la gobernabilidad del sistema con su robustez técnica ni sustituir una por la otra dentro de la misma fórmula.

Dónde se probó el marco

El marco se aplicó a dos escenarios deliberadamente distintos: un robot de almacén con tiempo real estricto y un agente financiero equipado con herramientas de gobernanza. Según los autores, en ambos casos se mantuvieron la misma gramática de las siete capas, la semántica de las variables y la construcción de la resistencia dinámica. Es decir, un mismo aparato «núcleo» describe tanto a un robot físico con requisitos temporales estrictos como a un agente puramente de software en servicios financieros, sin reinventar el modelo para cada dominio.

Qué significa

El trabajo propone un núcleo compacto que vincula el mecanismo de fallo con la magnitud de su riesgo y permite razonar sobre la confianza en los agentes entre dominios distintos con un lenguaje común. Para una industria en la que los agentes de IA acceden cada vez más a dinero y a acciones físicas, una estimación de riesgo residual transferible y verificable supone un paso desde las difusas «evaluaciones de seguridad» hacia cifras respaldadas por la dinámica de estados, y no por la intuición de los expertos.