كيف نقيس المخاطر المتبقية لوكلاء الذكاء الاصطناعي المستقلين: إطار CPSAINT وFRIESA-K

نشر باحثون في يوليو 2026 على arXiv إطارًا للتقدير الكمي للمخاطر المتبقية للذكاء الاصطناعي الوكيلي (agentic AI)، وهو حزمة من نموذجين هما CPSAINT وFRIESA-K. يحوّل هذا الإطار كل سيناريو فشل لوكيل مستقل إلى قيمة رقمية محددة للمخاطر.

ما المشكلة التي يعالجها المؤلفون؟

يحصل الذكاء الاصطناعي الوكيلي على صلاحية تنفيذ إجراءات حقيقية، مثل الطلبات والمدفوعات والتحكم في الروبوتات، بوتيرة أسرع مما تستطيع أساليب تقييم المخاطر مواكبته. وبحسب صياغة المؤلفين، تقدّم المقاربات القائمة نصف الصورة فقط من أصل نصفين ممكنين. بعضها يصف آليات الفشل لكنه لا يعطي تقديرًا قابلًا للنقل للمخاطر المتبقية، وبعضها الآخر يحسب المخاطر لكنه يتعامل مع مسار الفشل الداخلي كصندوق أسود.

«يعبر الذكاء الاصطناعي الوكيلي حدود الثقة بسرعة أكبر مما تستطيع نماذج

المخاطر الحالية وصفه» — صياغة المؤلفين في ملخص الدراسة على arXiv.

يجمع CPSAINT وFRIESA-K بين المنظورين. يقسّم الإطار النظام أولًا إلى طبقات قد يقع فيها الخلل، ثم يربط كل مسار فشل صالح بتقدير رقمي محدد بدقة للمخاطر. ويسمّي المؤلفون ذلك «قابلية التركيب البنيوية»، أي رابطًا رسميًا بين مسار فشل صحيح و«مثيل مخاطر» محدد بوضوح.

مم يتكوّن الإطار؟

يمثّل CPSAINT تفكيكًا سباعي الطبقات لسلامة الوكيل البنيوية، وتتولى كل طبقة منه جزءًا مستقلًا قد تتعرض فيه سلامة النظام للاختلال. ومع الدالة FRIESA-K يشكّل خط معالجة «من الآلية إلى المقدار» للذكاء الاصطناعي الوكيلي المتين والمجسَّد (embodied).

• طبقات CPSAINT السبع: الحالة الفيزيائية، والمستشعرات، والبيانات، والحوسبة، والمشغِّلات (actuators)، والبيئة، والزمن
• FRIESA-K دالة للمخاطر المتبقية: يُربط كل مسار فشل بتقدير رقمي
• حد المقاومة K يُستمد من نموذج ماركوف ماصّ قابل للتحكم، ولا يُحدَّد «بالعين المجرّدة»
• قابلية رصد الحوكمة (governance) تُحتسب بعقوبة إضافية مستقلة، لا كمتغير جديد داخل الدالة
• جرى التحقق على سيناريوهين متباينين: روبوت مستودعات ووكيل مالي

لماذا يهم حد المقاومة K؟

الفارق الجوهري في FRIESA-K هو طريقة حساب «المقاومة» K، أي فعالية وسائل الضبط. بدلًا من التقدير غير الرسمي للخبراء، يربط المؤلفون K بديناميكية حالات النظام عبر نموذج ماركوف ماصّ قابل للتحكم. وبذلك تُستمد فعالية الضبط من كيفية انتقال النظام فعليًا بين الحالات و«امتصاصه» بالفشل، لا من درجة ذاتية. وتُفرد قابلية رصد الحوكمة في عقوبة إضافية مستقلة، حتى لا يختلط التحكم في النظام بمتانته التقنية، ولا يحلّ أحدهما محل الآخر داخل الصيغة نفسها.

أين اختُبر الإطار؟

جرى اختبار الإطار على سيناريوهين مختلفين عمدًا: روبوت مستودعات خاضع لقيود الزمن الحقيقي الصارمة، ووكيل مالي مزوَّد بأدوات حوكمة. ويؤكد المؤلفون أن القواعد نفسها للطبقات السبع، ودلالات المتغيرات، وبنية المقاومة الديناميكية بقيت ثابتة في الحالتين. أي أن الجهاز «النووي» ذاته يصف الروبوت المادي ذا المتطلبات الزمنية الصارمة، ويصف كذلك الوكيل البرمجي البحت في الخدمات المالية، دون الحاجة إلى إعادة ابتكار النموذج لكل مجال.

ماذا يعني ذلك؟

يقترح العمل نواة مدمجة تربط آلية الفشل بمقدار مخاطرها، وتتيح الحديث عن الثقة بالوكلاء عبر مجالات مختلفة بلغة مشتركة. وفي صناعة يحصل فيها وكلاء الذكاء الاصطناعي بوتيرة متزايدة على صلاحية التعامل مع الأموال والإجراءات الفيزيائية، فإن تقدير المخاطر المتبقية القابل للنقل والتحقق منه خطوة تنقل «تقييمات الأمان» من العبارات الفضفاضة إلى أرقام تستند إلى ديناميكية الحالات، لا إلى حدس الخبراء.