وكيل ذكاء اصطناعي ائتماني يغيّر طبقة الربط فقط: البوابة مرّرت 144 تعديلاً من أصل 7449

يستطيع وكيل LLM ذاتي التعلم في مسار ائتماني أن يتكيف مع تفسير جديد للقواعد. لكن إذا أعاد كتابة نفسه، فقدت الجهة الرقابية ما يُفترض أن تفحصه: تغييراً مسمّى، واختباراً مثبَّتاً، وتوقيعاً على الموافقة. يقترح مؤلفو ورقة جديدة على arXiv قيداً صارماً: يتطور «غلاف» الوكيل (طبقة الربط) وحده، بينما تبقى أوزان النموذج مجمّدة. في المحاكاة، ومن أصل 7449 تعديلاً مرشحاً، مرّرت بوابة القبول 144 تعديلاً، ولم يزد أي منها الخطأ على السجل التاريخي المحجوز. أما النسخة الضابطة، التي استخدمت فحصاً من النوع الذي يطبّقه نظام غير مقيّد، فمرّرت 309 تعديلات ضارة.

ما الذي يُسمح بتغييره تحديداً

تشمل طبقة الربط (harness) في الورقة ثلاث طبقات: نص التعليمات، ومنطق استدعاء الأدوات، وتركيب العناصر الأولية. أما كل ما عدا ذلك فلا يجوز المساس به. والفكرة أن كل تكيّف يتحول إلى diff له سبب واختبار مرتبط به. لا يحتاج المراجع إلى تحليل سلوك النموذج، بل يقرأ التعديل المحدد نفسه.

يقوم على هذا القيد محرك بحلقتين. تمر جميع التعديلات المرشحة عبر بوابة قبول واحدة تسجّل قبل النشر مدخلاً في سلسلة تجزئة. ولا يمكن تعديل هذا المدخل بأثر رجعي مع بقاء السلسلة سليمة. وبذلك يحصل المدقق على أثر جاهز: ما الذي تغيّر، ولماذا، وبأي اختبار جرى تمريره.

ماذا أظهرت المحاكاة

التحفظ الأساسي: قيست البوابة على وكيل مُحاكى، ولم يقترح التعديلات نموذج لغوي بل بحث بذرة ثابتة. إنها اختبار لآلية القبول، لا لسلوك نماذج LLM الحية. تصميم التجربة: ثلاث عائلات من إعادة التفسير الرقابي للقواعد، وثلاثة مستويات من الشدة، و10 تشغيلات لكل خلية، أي 90 تشغيلاً لكل تكوين.

• قبلت البوابة 144 من أصل 7449 تعديلاً مرشحاً.
• لم يزد أي من التعديلات المقبولة الخطأ على السجل التاريخي المحجوز.
• في كل خلية ذات شدة منخفضة أو متوسطة، عادت نسبة الإنذارات الكاذبة إلى مستوى المرجع المثالي (oracle) دون ارتفاع في الإشارات الفائتة.
• عند استبدال البوابة بفحص نمطي («أخطاء أقل على المسارات الحديثة») قُبل 309 تعديلات ضارة.
• في هذا الوضع تجاوزت الإشارات الفائتة 10% في 49 تشغيلاً من أصل 90.

يكشف البند الأخير آلية الإخفاق. فالإنذارات الكاذبة في هذا النظام لم تنخفض لأن الوكيل أصبح أدق، بل لأنه أضعف المرشِّح ببساطة، فقلّت الأخطاء على المسارات الحديثة مقابل تفويت حالات إشكالية.

وهناك نتيجة غير بديهية أيضاً. فإذا قُيّم المرشحون وفق التصنيف السابق للتحول، رفضتهم البوابة جميعاً. يجب ترميز التفسير الجديد للقواعد بوصفه قاعدة تعيد وسم السجل التاريخي. وإلا قارن الفحص الوكيل بحقيقة قديمة وحجب تعديلات صحيحة.

أين تبلغ البوابة سقفها

أصلح الوكيل التحولات المعلمية وتحولات نطاق التطبيق محلياً. أما التحول البنيوي فلم يُعالَج إلا باستبدال عنصر أولي. وعند أعلى مستويات الشدة البنيوية، حجبت عتبة القبول الثابتة للبوابة الاستبدال الصحيح في نصف التشغيلات. فالمحافظة التي تحمي من التعديلات الضارة تكلّف هنا تعديلات نافعة. وعلى الأرجح سيتعين ضبط العتبة بشكل منفصل للتغييرات البنيوية.

كما يقارن المؤلفون هذه الآليات بمتطلبات EU AI Act الخاصة بالتصنيف الائتماني عالي المخاطر. ويشيرون بشكل منفصل إلى أن الإرشادات الأمريكية لإدارة مخاطر النماذج الصادرة في أبريل 2026 تستثني الذكاء الاصطناعي الوكيلي من نطاق تطبيقها. ولا يزال الإطار التنظيمي لمثل هذه الأنظمة في الولايات المتحدة فارغاً، ولذلك يتعين على الجهات المطبِّقة بناء قابلية التدقيق بنفسها.

كيف يُطبَّق ذلك عملياً

على الفريق الذي يدمج الوكلاء في التصنيف الائتماني أو الامتثال أن يحدد مسبقاً حدود ما يجوز تغييره: التعليمات والأدوات وتركيب العناصر الأولية داخل المستودع، وأوزان النموذج خارج نطاق التعديل. ويجب أن يكون لكل تغيير سبب واختبار وتسجيل في سجل غير قابل للتعديل قبل الإطلاق. وينبغي حساب معيار القبول على السجل التاريخي المُعاد وسمه وفق القاعدة الجديدة، ومراقبة الإشارات الفائتة بشكل منفصل، لا الإنذارات الكاذبة وحدها. كما يجب معايرة عتبة القبول لاستبدال العناصر الأولية بشكل منفصل، والاتفاق مسبقاً على من يتخذ القرار حين تحجب البوابة تعديلاً صحيحاً. وقد جاءت النتائج من محاكاة، لذا يلزم قبل الإنتاج تشغيل تجريبي باقتراحات صادرة عن نماذج LLM حقيقية.