الذكاء الاصطناعي للأعمال: MTS تطرح مرشّح AVI مفتوح المصدر لحماية نماذج LLM

أطلقت MTS خدمة AVI المفتوحة المصدر، وهي حل لتبنّي الذكاء الاصطناعي بأمان داخل الشركات. وهي مرشّح للنماذج اللغوية (LLM) يراقب الطلبات والردود دون تغيير أوزان النموذج.

ما هو AVI وكيف يعمل

يُعدّ AVI «جدار حماية ذكيًا» من مستويين بين المستخدم والنموذج اللغوي. يعترض مرشّح المدخل هجمات الأوامر النصية والطلبات غير المرغوب فيها قبل وصولها إلى النموذج. أما مرشّح المخرج فيفحص الرد بعد توليده، ويقيّم مدى سميّته وامتثاله للتشريعات والمعايير الأخلاقية.

المكوّنات الرئيسية للحل المنشور:

• خدمة مبنية بلغة Python وإطار FastAPI، وهي أساس البنية
• وحدة RAG للتحقق السياقي من قواعد الترشيح
• حزمة Docker مع منظومة مراقبة كاملة: Prometheus وGrafana وJaeger
• أدوات لإعادة إنتاج التجارب على معيار FinanceBench
• الوصف العلمي منشور في مجلة محكَّمة هي MDPI.Electronics

تتميّز المنظومة بطريقة إضافة القواعد. فبدلًا من تعديل ملفات الإعداد أو إعادة تدريب النموذج، يُحدَّد المرشّح الجديد بجملة واحدة بلغة طبيعية. تلتقطها وحدة RAG وتطبّقها عند الفحص التالي.

لماذا الترشيح من الخارج أجدى من إعادة التدريب

الطريقة المعتادة لجعل النموذج اللغوي «ملتزمًا بالقانون» هي مواصلة تدريبه عبر RLHF أو fine-tuning. وهذا مكلف ويستغرق أسابيع، ويتطلب دورة كاملة من جديد عند كل تغيير في المتطلبات: صدر تشريع تنظيمي جديد أو تغيّرت سياسة الشركة، فعليك إعادة التدريب.

يقترح AVI نهجًا مختلفًا جذريًا: يعمل المرشّح خارج النموذج ويعالج حركة البيانات كطبقة وسيطة (proxy). هل تريد منع مناقشة المنافسين؟ يكفي إضافة قاعدة في ملف الإعداد. هل تحتاج إلى مراعاة متطلبات القانون الاتحادي الروسي رقم 152 (152-ФЗ) أو GDPR؟ الأمر نفسه. أما النموذج فلا يُمسّ.

«يعمل AVI كجدار حماية ذكي لنماذج LLM: يصدّ هجمات الأوامر النصية عند

المدخل، ويفحص الردود بحثًا عن السميّة والمخالفات الأخلاقية وخرق القانون عند المخرج»، بحسب وصف المؤلفين للفكرة.

يزعم المؤلفون أن هذا النهج يحقق توفيرًا ملموسًا. وبالنسبة للشركات في القطاعات الخاضعة للتنظيم، مثل المصارف والاتصالات والطب، قد يعني ذلك توفير أشهر من عمل فريق ML، إذ يكفي تحديث مجموعة قواعد المرشّح بدلًا من إعادة التدريب.

ماذا أظهرت الاختبارات على FinanceBench

اختبر الفريق المنظومة على FinanceBench، وهي مجموعة قياسية من الأسئلة المالية التي تتطلب إجابات دقيقة وسليمة قانونيًا. نُشرت النتائج في مجلة MDPI.Electronics المحكَّمة.

مقاييس الدقة التفصيلية متاحة في النص الكامل للمقالة العلمية باللغة الإنجليزية. ويعني نشر العمل في مجلة محكَّمة وفتح الشيفرة أن المنظومة خضعت لتحقق مستقل، ولم تبقَ أداة داخلية للشركة.

ما معنى ذلك

تطرح MTS أداة عملية لكل من ينشر نماذج LLM في بيئات الإنتاج ذات المتطلبات الصارمة للمحتوى. وقد يصبح نهج «جدار الحماية بدلًا من مواصلة التدريب» معيارًا في عمليات نشر الذكاء الاصطناعي المؤسسية، خصوصًا حيث تتغير المتطلبات التنظيمية أسرع مما يتسنى للنموذج إعادة تدريبه.

الأسئلة الشائعة

هل يعمل AVI مع أي نموذج لغوي؟

نعم، فالمرشّح لا يعتمد على بنية نموذج بعينه ولا على أوزانه. يتصل AVI كطبقة وسيطة (proxy) ويمكنه العمل مع أي خدمة LLM.

ماذا يتضمن المستودع المنشور؟

يضم المستودع الواجهة الخلفية المبنية بـ Python وFastAPI، ووحدة RAG للتعامل مع القواعد المكتوبة بلغة طبيعية، وحزمة Docker مع مراقبة عبر Prometheus وGrafana وJaeger، إضافة إلى أدوات لإعادة إنتاج التجارب على FinanceBench.

ما هو AVI وكيف يحمي الذكاء الاصطناعي؟

AVI مرشّح من مستويين للنماذج اللغوية. يعترض مرشّح المدخل الطلبات الخطرة قبل أن تصل إلى النموذج. ويفحص مرشّح المخرج الرد المولَّد للتأكد من امتثاله للتشريعات والمعايير الأخلاقية.