فتحت MTS AI كود AVI — مرشح خارجي يحافظ على LLM ضمن القانون بدون إعادة تدريب

أطلقت MTS AI خدمة مفتوحة المصدر AVI (Aligned/Agreement Validation Interface) على GitHub — وهو مرشح خارجي مستقل عن النموذج يتحقق من الطلبات من الهجمات واستجابات LLM على السمية والأخلاق والانتهاكات القانونية، دون تعديل أوزان النموذج.

ما هي بنية AVI

قدمت MTS AI مفهوم AVI العام الماضي بأنه "جدار حماية ذكي" لـ LLMs: مرشح الإدخال يمنع هجمات الطلب قبل وصول الطلب إلى النموذج، بينما يتحقق مرشح الإخراج من الاستجابة المولدة من حيث السمية والأخلاق والانتهاكات القانونية. الآن أتقنت MTS AI البنية وأطلقت تطبيقاً فعلياً: خدمة في Python و FastAPI مع مرشحات الإدخال والإخراج وموديول RAG ونشر Docker مع المراقبة.

• رمز مفتوح المصدر منشور على GitHub
• Stack — Python و FastAPI
• يتضمن مرشحات الإدخال والإخراج، موديول RAG، Docker مع المراقبة (Prometheus، Grafana، Jaeger)
• يمكن إضافة قواعد التصفية الجديدة بعبارة واحدة باللغة الطبيعية
• تم اختبار النظام على معايير FinanceBench
• نشرت الوصف العلمي للبنية في مجلة MDPI Electronics

لماذا يتم الحاجة إلى مرشح خارجي إذا كان يمكنك ضبط النموذج

الفكرة الأساسية لـ AVI هي عدم إعادة تدريب LLM لكل متطلب قانوني أو أخلاقي جديد، بل الاحتفاظ بالقواعد خارجياً، في خدمة منفصلة. وفقاً للمطورين، يسمح هذا بإضافة وتغيير القواعد دون دورات إعادة التدريب — يتم صياغة المتطلب الجديد كعبارة واحدة باللغة الطبيعية، وليس كمجموعة من أمثلة التدريب الجديدة. وهذا أيضاً، بحسب قولهم، يساعد في الاقتصاد على تدريب LLM: لا حاجة لإعادة بدء عملية إعادة التدريب المكلفة في كل مرة تتغير المعايير التنظيمية.

في الوقت نفسه، AVI ليس مرتبطاً بنموذج معين: نظراً لأن المرشح يعمل خارجياً، على مستوى الطلبات الواردة والاستجابات الصادرة، يمكن نظرياً نشره أمام أي LLM، وليس فقط الذي تم تطويره في الأصل في MTS AI.

ما معنى هذا

AVI هو مثال على كيفية نقل الامتثال للقانون والمعايير الأخلاقية بشكل متزايد إلى طبقة منفصلة خاضعة للمراقبة فوق النموذج، بدلاً من أن تكون مدمجة في أوزانه. بالنسبة للشركات التي تشغل LLMs في الصناعات المنظمة مثل المالية، هذه طريقة للتكيف بشكل أسرع مع المتطلبات الجديدة دون إعادة بدء إعادة التدريب المكلفة في كل مرة تتغير القواعد.

الأسئلة الشائعة

ما هو AVI؟

AVI (Aligned/Agreement Validation Interface) هو مرشح خارجي مستقل عن النموذج لـ LLMs يتحقق من الطلبات الواردة من أجل هجمات الطلب والاستجابات من حيث السمية والأخلاق والانتهاكات القانونية.

تم اختبار AVI على ماذا؟

أعاد المطورون إنتاج التجارب على معايير FinanceBench ونشروا وصفاً علمياً للبنية في مجلة MDPI Electronics.

أين يمكنني الحصول على رمز AVI؟

تُطلق الخدمة الفعلية في Python و FastAPI كمصدر مفتوح على GitHub — بما فيها مرشحات الإدخال والإخراج وموديول RAG ونشر Docker مع مراقبة Prometheus و Grafana و Jaeger.