MTS AI تفتح شفرة AVI: مرشِّح خارجي يُبقي نماذج LLM ضمن حدود القانون دون إعادة تدريب

أتاحت شركة MTS AI للعموم على GitHub خدمة AVI (Aligned/Agreement Validation Interface) العاملة، وهي مرشِّح خارجي مستقل عن النموذج. يفحص هذا المرشِّح الـ prompts بحثًا عن الهجمات، ويفحص إجابات LLM بحثًا عن السمّية والإشكالات الأخلاقية ومخالفة القانون، دون المساس بأوزان النموذج نفسه.

ما بنية AVI؟

كانت الشركة قد قدّمت مفهوم AVI في العام الماضي بوصفه «جدارًا ناريًا ذكيًا» لنماذج LLM: يصدّ مرشِّح الإدخال هجمات الـ prompt قبل أن يصل الطلب إلى النموذج، بينما يفحص مرشِّح الإخراج الإجابة المولَّدة بحثًا عن السمّية والإشكالات الأخلاقية ومخالفة القانون. والآن طوّرت MTS AI البنية ونشرت تطبيقًا عمليًا: خدمة بلغة Python وإطار FastAPI تضم مرشِّحَي الإدخال والإخراج ووحدة RAG وحزمة Docker مع أدوات المراقبة.

• الشفرة المفتوحة منشورة على GitHub
• التقنيات المستخدمة: Python وFastAPI
• تضم الحزمة مرشِّحَي الإدخال والإخراج ووحدة RAG وبيئة Docker مع أدوات المراقبة (Prometheus وGrafana وJaeger)
• تُضاف قواعد الترشيح الجديدة بجملة واحدة بلغة طبيعية
• اختُبر النظام على معيار FinanceBench
• نُشر الوصف العلمي للبنية في مجلة MDPI Electronics

لماذا مرشِّح خارجي إذا كان بالإمكان إعادة تدريب النموذج؟

الفكرة الأساسية في AVI هي عدم إعادة تدريب الـ LLM نفسه مع كل متطلب جديد في القانون أو الأخلاقيات، بل إبقاء القواعد خارجه في خدمة منفصلة. ووفق المطوّرين، يتيح ذلك إضافة القواعد وتغييرها دون دورة إعادة تدريب، إذ يُصاغ المتطلب الجديد بجملة واحدة بلغة طبيعية بدل مجموعة من أمثلة التدريب الجديدة. ويرى المطوّرون أن ذلك يوفّر أيضًا في تكاليف تدريب نماذج الذكاء الاصطناعي: فلا حاجة إلى إعادة تشغيل عملية إعادة التدريب المكلفة كلما تغيّر حكم تنظيمي.

كما أن AVI غير مرتبط بنموذج بعينه: فبما أن المرشِّح يعمل من الخارج، على مستوى الطلبات الواردة والإجابات الصادرة، يمكن نظريًا وضعه أمام أي LLM، وليس فقط أمام النموذج الذي طُوّر من أجله أصلًا في MTS AI.

ماذا يعني ذلك

يمثّل AVI مثالًا على توجّه متزايد إلى إخراج الامتثال للقانون والمعايير الأخلاقية إلى طبقة منفصلة خاضعة للرقابة فوق النموذج، بدل تضمينه في أوزانه. وبالنسبة إلى الشركات التي تشغّل LLM في قطاعات منظَّمة مثل القطاع المالي، فهو وسيلة للتكيّف بسرعة أكبر مع المتطلبات الجديدة دون إعادة تدريب مكلفة عند كل تغيير في القواعد.

الأسئلة الشائعة

ما هو AVI؟

AVI (Aligned/Agreement Validation Interface) هو مرشِّح خارجي لنماذج LLM مستقل عن النموذج، يفحص الطلبات الواردة بحثًا عن هجمات الـ prompt، ويفحص الإجابات بحثًا عن السمّية والإشكالات الأخلاقية ومخالفة القانون.

على ماذا اختُبر AVI؟

أعاد المطوّرون إجراء التجارب على معيار FinanceBench، ونشروا الوصف العلمي للبنية في مجلة MDPI Electronics.

أين يمكن الحصول على شفرة AVI؟

الخدمة العاملة المبنية بلغة Python وإطار FastAPI متاحة للعموم على GitHub، وتشمل مرشِّحَي الإدخال والإخراج ووحدة RAG وحزمة Docker مع مراقبة عبر Prometheus وGrafana وJaeger.