NEXUS: رقابة أمنية وقت التشغيل لوكلاء LLM المزوّدين بالأدوات — F1 بقيمة 0.949

في يوليو 2026 نُشرت على arXiv نسخة أولية (preprint) من NEXUS (Neural EXecution Utility and Safety)، وهو مراقِب أمني وقت التشغيل لوكلاء LLM الذين يستخدمون الأدوات. يعترض NEXUS كل إجراء يتخذه الوكيل ويختار أحد أربعة قرارات: السماح، أو الحظر، أو طلب التأكيد، أو طلب المراجعة. وعلى معيار اصطناعي من 128 سيناريو، يحقق قيمة F1 بلغت 0.949 بزمن تأخير وسيط قدره 0.205 ملي ثانية.

كيف يعمل المراقِب

يجمع NEXUS بين ثلاث آليات رقابية ويستند إليها في إصدار استجابة متدرّجة. ووفق ما ورد في النسخة الأولية على arXiv، يضم المراقِب قواعد أمان حتمية، وفحصاً لوسائط الاستدعاء على مستوى كل معامل على حدة، وانحداراً لوجستياً معايَراً يحسب درجة المخاطر (risk-score) المستخدمة في التصعيد.

وهذه الدرجة تحديداً هي ما يتيح الانتقال من ثنائية «مسموح/ممنوع» إلى سياسة تدخّل رباعية المستويات. فبدلاً من الاكتفاء بحظر الاستدعاء المشبوه، يستطيع المراقِب أن يطلب من الوكيل تأكيداً، أو أن يعيد الإجراء إليه لإعادة صياغته.

• أربعة إجراءات في السياسة: allow، وblock، وrequest confirmation، وrequest revision
• ثلاث آليات: قواعد حتمية + فحص الوسائط + انحدار لوجستي لدرجة المخاطر (risk-score)
• F1 = 0.949 على معيار اصطناعي من 128 سيناريو
• دقة اختيار التدخل رباعي الفئات — 0.6406
• زمن تأخير وسيط 0.205 ملي ثانية، وحمل إضافي أقل من 0.1%

ما مدى تفوقه على القواعد وحدها

يتفوق NEXUS على النهج القائم على القواعد وحدها بمقدار 27.3 نقطة مئوية في دقة اختيار التدخل على المعيار الاصطناعي. وعلى المعيار نفسه تبلغ دقته (accuracy) في التصنيف الرباعي 0.6406، مقابل نتيجة أدنى بوضوح لنهج القواعد فقط (rule-only).

واختُبر النموذج كذلك على مجموعات بيانات خارجية. ففي R-Judge يحقق NEXUS قيمة F1 بلغت 0.861 مقابل 0.849 لنهج القواعد فقط. وفي AgentHarm يتساوى أداؤه مع أداء القواعد (ويعزو المؤلفون ذلك إلى قيود في نموذج التهديدات). أما في اختبار الحقن غير المباشر في الموجّه (IPI) فيبلغ 0% من الهجمات الناجحة مع السماح بـ 99% من الإجراءات المشروعة.

ماذا أظهر اختبار الإجهاد

على معيار NEXUS-Stress «الأعمى عن القواعد»، يسجّل المراقِب قيمة F1 بلغت 0.881. ويؤكد المؤلفون أنفسهم أن التوجيه الدقيق للتدخلات يظل المهمة الأصعب. وقد صُمّم هذا السيناريو عمداً بلا أي اعتماد على قواعد محددة مسبقاً، لاختبار قدرة درجة المخاطر (risk-score) على التعميم.

ويشدّد المؤلفون بصورة منفصلة على كلفة الرقابة. ووفق النسخة الأولية، يبلغ زمن التأخير الوسيط 0.205 ملي ثانية، ويقل الحمل الإضافي عن 0.1% من الدورة المعتادة للوكيل.

«NEXUS adds under 0.1% overhead to typical agent loops» — من ملخص

النسخة الأولية على arXiv.

وقد أُتيحت الشيفرة والمعايير ومُقيِّم المخاطر المعاير (risk-scorer) للعموم، ما يسمح بإعادة إنتاج النتائج ودمج المراقِب في أنظمة الوكلاء الخاصة بكل جهة.

ماذا يعني ذلك

مع انتقال وكلاء الذكاء الاصطناعي من الإجابات النصية إلى إجراءات فعلية — استدعاء واجهات API، وعمليات الشراء، والتعامل مع الملفات — ترتفع كلفة الخطأ. ويُظهر NEXUS أن الرقابة وقت التشغيل يمكن أن تكون دقيقة وشبه مجانية من حيث زمن التأخير في آن واحد، فيما يمنح نشر الشيفرة والمعايير علناً القطاعَ نقطة مرجعية مشتركة لمقارنة هذه المراقِبات.

الأسئلة الشائعة

ما هو NEXUS؟

NEXUS (Neural EXecution Utility and Safety) مراقِب أمني لوكلاء LLM الذين يستخدمون الأدوات. يطبّق سياسة تدخّل رسمية، ويختار عند كل إجراء للوكيل أحد أربعة قرارات: السماح، أو الحظر، أو طلب التأكيد، أو طلب المراجعة.

إلى أي حد يبطّئ NEXUS الوكيل؟

وفق النسخة الأولية، يبلغ زمن التأخير الوسيط 0.205 ملي ثانية، ويقل الحمل الإضافي عن 0.1% من دورة العمل المعتادة للوكيل. أي أن الرقابة لا تؤثر عملياً في السرعة.

هل يمكن استخدام NEXUS في مشاريعي الخاصة؟

نعم. فقد أتاح المؤلفون الشيفرة والمعايير ومُقيِّم المخاطر المعاير (risk-scorer) للعموم، ولذلك يمكن إعادة إنتاج النتائج ودمج المراقِب في خطوط معالجة الوكلاء الخاصة بك.