GLiGuard من Fastino Labs: نموذج أمان أسرع بـ16x من المنافسين الأكبر حجماً

أطلقت Fastino Labs نموذج GLiGuard — وهو نموذج مدمج لتعديل LLMs يتمتع بسرعة أعلى ودقة أكبر من المنافسين الضخمين. يحتوي على 300 مليون معامل فقط، والنتائج تتطابق مع نماذج أكبر بـ 90 مرة.

أربع مهام في تمريرة واحدة

يحل GLiGuard أربع مهام أمان حرجة:

• فحص أمان المحفزات — يكتشف المدخلات الخطرة المحتملة
• كشف الهروب الأمني — يجد محاولات تجاوز قيود النموذج
• تصنيف أنواع الضرر — يحدد نوع الضرر الذي قد يحدث
• كشف الرفض — يتحقق من أن النموذج رفض الإجابة بشكل صحيح

تحدث جميع التحليلات الأربعة في تمريرة forward واحدة، مما يوفر سرعة معالجة استثنائية.

المشفّر بدلاً من فاك الترميز

تستخدم معظم نماذج guardrail الحالية بنية فاك الترميز فقط، مثل LLMs النموذجية. اتخذت Fastino Labs طريقاً مختلفاً — بنت GLiGuard على أساس مشفّر. وقد قلل هذا الكمون بمعامل 16.6x وزاد الإنتاجية 16 مرة، مع الحفاظ في نفس الوقت على الدقة عبر تسعة معايير أمان مختلفة.

« المشفّر مناسب بشكل متأصل للمهام التصنيفية أكثر من بنية فاك الترميز فقط »، كما توضح تجربة

Fastino Labs.

ما يعنيه هذا

انفجرت الكفاءة حرفياً. في السابق، كان يتعين عليك الحصول على نموذج كبير للتحقق من أمان LLM بموثوقية. الآن يمكنك نشر GLiGuard محلياً، على أجهزة edge، في التطبيقات المحمولة. هذا يغير اقتصاديات الذكاء الاصطناعي: تكاليف حسابية أقل، كمون منخفض، خصوصية مستخدم أفضل.