Как измерить остаточный риск автономных ИИ-агентов: фреймворк CPSAINT и FRIESA-K

В июле 2026 года исследователи опубликовали на arXiv фреймворк для количественной оценки остаточного риска агентного ИИ — связку из двух моделей CPSAINT и FRIESA-K, которая переводит каждый сценарий отказа автономного агента в конкретное числовое значение риска.

Какую проблему решают авторы

Агентный ИИ получает доступ к реальным действиям — заказам, платежам, управлению роботами — быстрее, чем методы оценки рисков успевают за ним. По формулировке авторов, существующие подходы дают лишь половину картины из двух возможных: одни описывают механизмы отказа, но не выдают переносимую оценку остаточного риска; другие считают риск, но трактуют внутренний путь отказа как чёрный ящик.

«Агентный ИИ пересекает границы доверия быстрее, чем нынешние модели

риска способны это описать», — формулировка авторов в аннотации исследования на arXiv.

CPSAINT и FRIESA-K соединяют оба взгляда: сначала раскладывают систему на слои, где может произойти сбой, затем каждому валидному пути отказа сопоставляют строго определённую числовую оценку риска. Авторы называют это структурной композируемостью — формальной связью между корректным путём отказа и чётко заданным «экземпляром риска».

Из чего состоит фреймворк

CPSAINT — это семислойная декомпозиция целостности агента, где каждый слой отвечает за отдельный участок, на котором целостность системы может нарушиться. Вместе с функционалом FRIESA-K она образует конвейер «от механизма к величине» для устойчивого агентного и воплощённого (embodied) ИИ.

• Семь слоёв CPSAINT: физическое состояние, сенсоры, данные, вычисления, актуаторы, среда и время
• FRIESA-K — функционал остаточного риска: каждый путь отказа отображается в числовую оценку
• Член сопротивления K выводится из управляемой поглощающей марковской модели, а не назначается «на глаз»
• Governance-наблюдаемость учитывается отдельным аддитивным штрафом, а не как новая переменная внутри функционала
• Проверка — на двух контрастных сценариях: складской робот и финансовый агент

Почему важен член сопротивления K

Ключевое отличие FRIESA-K — как считается «сопротивление» K, то есть эффективность средств контроля. Вместо неформальной экспертной оценки авторы привязывают K к динамике состояний системы через управляемую поглощающую марковскую модель. Так эффективность контроля выводится из того, как система реально переходит между состояниями и «поглощается» отказом, а не из субъективного балла. Наблюдаемость governance при этом вынесена в отдельный аддитивный штраф — чтобы не смешивать управляемость системы с её технической стойкостью и не подменять одно другим внутри той же формулы.

Где фреймворк проверили

Фреймворк прогнали на двух намеренно разных сценариях: складском роботе жёсткого реального времени и финансовом агенте, оснащённом инструментами governance. По утверждению авторов, в обоих случаях сохранились одна и та же грамматика семи слоёв, семантика переменных и конструкция динамического сопротивления. То есть один и тот же «ядровой» аппарат описывает и физического робота с жёсткими требованиями по времени, и чисто программного агента в финансовых сервисах — без переизобретения модели под каждый домен.

Что это значит

Работа предлагает компактное ядро, которое связывает механизм отказа с его величиной риска и позволяет рассуждать о доверии к агентам между разными доменами на общем языке. Для индустрии, где ИИ-агенты всё чаще получают доступ к деньгам и физическим действиям, переносимая и проверяемая оценка остаточного риска — это шаг от расплывчатых «оценок безопасности» к числам, за которыми стоит динамика состояний, а не экспертная интуиция.