MTS تفتح كود AVI: جدار حماية ذكي لـ LLM يتعلم قواعد جديدة في ثوانٍ
نشرت MTS AI على GitHub خدمة AVI (Aligned/Agreement Validation Interface) — جدار حماية معياري خارجي لنماذج اللغة. يقوم مرشح الإدخال بحظر هجمات الموجهات، بينما يتحقق مرشح الإخراج من الإجابات من حيث السمية والانتهاكات القانونية. الميزة الرئيسية: تتم إضافة القواعد الجديدة بعبارة واحدة باللغة الطبيعية — دون إعادة تدريب النموذج. الكود مكتوب بـ Python/FastAPI مع وحدة RAG ومراقبة عبر Prometheus و Grafana.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
أطلقت MTS خدمة مفتوحة AVI — حل لتنفيذ آمن للذكاء الاصطناعي في الشركات. إنه فلتر لنماذج اللغة (LLM) يتحكم في الطلبات والإجابات دون تغيير أوزان النموذج.
ما هو AVI وكيف يعمل
AVI هو "جدار حماية ذكي" متعدد المستويات بين المستخدم ونموذج اللغة. يعترض فلتر الإدخال هجمات المحفزات والطلبات غير المرغوبة قبل وصولها إلى النموذج. يتحقق فلتر الإخراج من الإجابة المولدة بالفعل: يقيّم السمية والامتثال للتشريع والمعايير الأخلاقية.
المكونات الرئيسية للحل المنشور:
- خدمة Python و FastAPI — أساس الهندسة المعمارية
- وحدة RAG للتحقق السياقي من القواعد
- بناء Docker مع مجموعة مراقبة كاملة: Prometheus و Grafana و Jaeger
- أدوات لإعادة إنتاج التجارب على FinanceBench
- الوصف العلمي المنشور في مجلة MDPI.Electronics المحكمة
تكمن الميزة المميزة للنظام في كيفية إضافة قواعد جديدة. بدلاً من تحرير الإعدادات أو إعادة تدريب النموذج، يتم تعيين فلتر جديد بعبارة واحدة في اللغة الطبيعية. تلتقطها وحدة RAG وتطبقها عند الفحص التالي.
لماذا من الأفضل تصفية خارجياً بدلاً من إعادة التدريب
الطريقة القياسية لجعل نموذج اللغة "ملتزماً بالقانون" هي ضبطه عبر RLHF أو fine-tuning. هذا مكلف ويستغرق أسابيع ويتطلب دورة كاملة مرة أخرى مع كل تغيير في المتطلبات: يتم إصدار قانون تنظيمي جديد أو تتغير سياسة الشركة — أعد التدريب.
يقدم AVI نهجاً مختلفاً جذرياً: يعيش الفلتر خارج النموذج ويعالج الحركة كطبقة وكيل. هل تحتاج إلى حظر نقاشات المنافسين؟ ما عليك سوى إضافة قاعدة إلى الإعداد. هل تحتاج إلى احترام متطلبات القانون 152-FZ أو GDPR؟ بالمثل. يبقى النموذج نفسه دون تعديل.
"يعمل AVI كجدار حماية ذكي للغة LLM: يطرد هجمات المحفزات عند الإدخال،
ويتحقق من الإجابات بحثاً عن السمية والأخلاقيات والانتهاكات القانونية عند الإخراج," — يصف المؤلفون المفهوم.
يؤكد المؤلفون أن هذا النهج يحقق توفيراً ملموساً. بالنسبة للشركات في الصناعات المنظمة — البنوك والاتصالات والرعاية الصحية — هذا توفير محتمل لأشهر من عمل فريق ML: بدلاً من إعادة التدريب، ما عليك سوى تحديث مجموعة قواعد الفلتر.
ما أظهرته الاختبارات على FinanceBench
اختبر الفريق النظام على FinanceBench — مجموعة قياسية من الأسئلة المالية التي تتطلب إجابات دقيقة وقانونية. تم نشر النتائج في مجلة MDPI.Electronics المحكمة.
مقاييس الدقة التفصيلية متاحة في النص الكامل للورقة العلمية بالإنجليزية. حقيقة النشر في مجلة محكمة وإطلاق الكود المفتوح تعني أن النظام اجتاز التحقق المستقل بدلاً من البقاء كأداة داخلية للشركة.
ما الذي يعنيه هذا
تفتح MTS أداة عملية للجميع الذين ينشرون LLM في بيئات الإنتاج مع متطلبات صارمة للمحتوى. يمكن لنهج "جدار الحماية بدلاً من إعادة التدريب" أن يصبح المعيار لنشر الذكاء الاصطناعي في الشركات — خاصة حيث تتغير المتطلبات التنظيمية أسرع من دورات إعادة تدريب النموذج.
الأسئلة الشائعة
هل يعمل AVI مع أي نموذج لغة؟
نعم — الفلتر مستقل عن بنية أو أوزان أي نموذج معين. يتصل AVI كطبقة وكيل ويمكن أن يعمل مع أي خدمة LLM.
ما المدرج في المستودع المنشور؟
يتضمن المستودع برنامج Python/FastAPI الخلفي، وحدة RAG للعمل مع القواعد بالاعتماد على اللغة الطبيعية، بناء Docker مع المراقبة عبر Prometheus و Grafana و Jaeger، بالإضافة إلى أدوات لإعادة إنتاج التجارب على FinanceBench.
ما هو AVI وكيف يحمي الذكاء الاصطناعي؟
AVI هو فلتر متعدد المستويات لنماذج اللغة. يعترض فلتر الإدخال الاستفسارات الخطيرة قبل وصولها إلى النموذج. يتحقق فلتر الإخراج من الإجابات المولدة للامتثال للتشريع والمعايير الأخلاقية.
هل تريد التوقف عن قراءة الذكاء الاصطناعي والبدء باستخدامه؟
AI News هو موجز منسق لأخبار الذكاء الاصطناعي. تعلمك Hamidun Academy استخدام الذكاء الاصطناعي في عملك.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.