OpenEvoShield: حماية أنظمة LLM متعددة الوكلاء من هجمات الحقن المتطورة
نشر باحثون على arXiv إطار OpenEvoShield، وهو نظام حماية مستمرة لأنظمة LLM متعددة الوكلاء. يتصدى النظام لهجمات تنتشر فيها التعليمات الخبيثة بين الوكلاء عبر مراسلاتهم، بينما تتطور الهجمات نفسها باستمرار. خلال 100 جولة اختبار على 5 معايير تقييم (بنشماركات)، تفوقت الطريقة على المناهج السابقة، وكشفت معظم الهجمات الجديدة بنسبة منخفضة من الإنذارات الكاذبة.
معالج بواسطة الذكاء الاصطناعي من arXiv cs.AI؛ بتحرير Hamidun News
نشر باحثون في يوليو 2026 على arXiv إطار OpenEvoShield، وهو نظام حماية مستمرة للأنظمة متعددة الوكلاء القائمة على نماذج اللغة الكبيرة (LLM-MAS). وخلال 100 جولة من النشر، تمكّن الإطار من التعرف على معظم هجمات الحقن التي لم يصادفها من قبل، مع نسبة منخفضة من الإنذارات الكاذبة.
ضد أي هجمات؟
يحمي OpenEvoShield أنظمة LLM-MAS من حقن التعليمات الخبيثة عبر التواصل بين الوكلاء. في هذا النوع من الهجمات، يمرّر المهاجم أمرًا خبيثًا إلى أحد الوكلاء، فينشر هذا الوكيل السلوك الخبيث في النظام بأكمله عبر مراسلاته مع الوكلاء الآخرين. ووفق وصف المؤلفين، فإن هذه الهجمات «ديناميكية مرتين»: فالمهاجمون يطوّرون استراتيجيات الحقن في مواجهة حماية منشورة بالفعل، كما ينحرف سلوك الوكلاء الطبيعيين تدريجيًا مع توسّع النظام. ولهذا السبب تفقد الحمايات الثابتة، التي يجري تدريبها مرة واحدة، دقتها بسرعة.
كيف تعمل الحماية
صُمّم OpenEvoShield بوصفه co-evolutionary continual defense، أي حماية تتطور مع الهجمات بدل أن تبقى مجمّدة بعد التدريب. وبحسب الورقة البحثية، يتألف الإطار من أربع وحدات.
- M1 — متحكّم غير متماثل في السرعات: يفصل بين التعلم السريع من جهة الهجوم والتعلم البطيء من جهة السلوك الطبيعي، اعتمادًا على إشارتين للانحراف
- M2 — تحديث حدّ السلوك الطبيعي: يحافظ ببطء على حدّ سلوكي ديناميكي لما يُعدّ سلوكًا «طبيعيًا» للوكلاء
- M3 — مجموعة سياسات (ensemble) مع تنظيم EWC: تتكيّف بسرعة مع التهديدات الجديدة دون النسيان الكارثي للتهديدات القديمة
- M4 — كاشف طاقي متعدد المستويات: يجمع سمات مستوى العقدة والرسم الفرعي والرسم البياني الكامل، ليصنّف الهجوم الجديد ضمن الحالات الشاذة الواقعة خارج توزيع بيانات التدريب
- الاختبار — 100 جولة نشر على 5 معايير تقييم (بنشماركات) و4 طوبولوجيات لأنظمة متعددة الوكلاء
لماذا تفشل الحماية التقليدية؟
تفشل الحماية التقليدية لأنها تتعامل مع النشر بوصفه «عالمًا مغلقًا»، فتفقد دقتها بمجرد أن يخرج توزيع الهجمات أو السلوك الطبيعي عن حدود عيّنة التدريب. وبحسب بيانات arXiv، يعالج OpenEvoShield هذه المشكلة عبر فصل سرعات التعلم: يتكيّف جانب الهجوم بسرعة، بينما يتحدّث حدّ السلوك الطبيعي ببطء، ما يمنع النظام من اعتبار الانحراف التدريجي هجومًا. وعلى مدى 100 جولة، أظهرت التجارب أن الطريقة تتفوق على المناهج الثابتة والمناهج القائمة على التعلم المستمر (continual) على حد سواء.
«يتفوق
OpenEvoShield على الطرق الأساسية الثابتة والمستمرة (continual)، إذ يكشف معظم الهجمات التي لم يصادفها من قبل مع نسبة منخفضة من الإنذارات الكاذبة»، كما جاء في ملخص الورقة البحثية على arXiv.
ماذا يعني ذلك
مع بناء الشركات خطوط عمل إنتاجية من وكلاء LLM، يتحول تأمين المراسلات بين الوكلاء إلى مهمة هندسية قائمة بذاتها. ويشير OpenEvoShield إلى الاتجاه المطلوب: حماية تتعلم باستمرار وفي الوقت الفعلي، وتميّز بين تطور الهجمات والانحراف الطبيعي للنظام.
الأسئلة الشائعة
ما المقصود بالهجوم عبر التواصل بين الوكلاء؟
هو أن يدسّ المهاجم تعليمة خبيثة في رسالة أحد الوكلاء، فتنتشر في النظام أثناء تبادل الوكلاء للبيانات. ووفق وصف المؤلفين، يمثّل ذلك تهديدًا رئيسيًا لأنظمة LLM متعددة الوكلاء في المهام الحساسة للأمان.
على ماذا اختُبر OpenEvoShield؟
بحسب الورقة البحثية، خضعت الطريقة لـ100 جولة نشر على 5 معايير تقييم (بنشماركات) و4 طوبولوجيات لأنظمة متعددة الوكلاء. وفي هذه الظروف تفوقت على المناهج الثابتة والقائمة على التعلم المستمر (continual)، وكشفت معظم الهجمات الجديدة بنسبة منخفضة من الإنذارات الكاذبة.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.