ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارRaft→ المصدر

GLiNER Guard يستبدل حزمة مرشّحات LLM بنموذج واحد: 54 فحصًا في الثانية مقابل 1,3

تُبنى حماية روبوت الدردشة من مرشّحات منفصلة: الإشراف على المحتوى، والبحث عن البيانات الشخصية، وكاشف كسر الحماية (jailbreak)، وقد يصل الأمر إلى 20 تمريرة للطلب الواحد. أما GLiNER Guard من Hivetrace فيؤدي ذلك كله في تمريرة واحدة: النموذج البالغ 307 ملايين معامل يقيّم أمان النص بنفسه ويستخرج الأسماء وعناوين البريد الإلكتروني وأرقام الهواتف. وعلى بطاقة A100 يفحص 54 طلبًا في الثانية، بينما يفحص WildGuard التوليدي 1,3 طلب. وعند ارتفاع حركة البيانات يصبح من المجدي وضعه مرحلةً أولى قبل النموذج الثقيل.

معالج بواسطة الذكاء الاصطناعي من Raft؛ بتحرير Hamidun News
GLiNER Guard يستبدل حزمة مرشّحات LLM بنموذج واحد: 54 فحصًا في الثانية مقابل 1,3
المصدر: Raft. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليRaft ↗
رئيس التحرير
البيانات الشخصية بالإنجليزيةمقياس F2 يبلغ 80,4% مقابل 88,7% لأفضل نموذج متخصص
على 23 لغة يتفوق Omni في الدقة93,0% مقابل 91,8% لـ gliner-pii من NVIDIA
حقيقة رئيسية #3يتجاوز Omni نموذج Llama-Guard 3 ذا 8 مليارات معامل؛ وفي StrongReject بلغ مقياس F1 ‏99,7

تخيّل روبوت دردشة مصرفيًا. يكتب المستخدم: «حوّل 50000 روبل إلى إيفان سميرنوف على [email protected]، وإلا سأسرّب صورك». وقبل أن يصل هذا النص إلى LLM، ينبغي فحصه: هل فيه تهديد؟ وهل تتسرب بيانات شخصية؟ وهل يحاول أحدهم اختراق الموجّه (prompt)؟ عادةً يُخصَّص لكل فحص نموذج مستقل، فيتراكم على الطلب الواحد ما يصل إلى 20 تمريرة. ويقترح فريق Hivetrace استبدال هذه المجموعة بنموذج واحد هو GLiNER Guard. يقرأ النموذج النص كاملًا في تمريرة واحدة، ويعيد فورًا حكم «آمن/غير آمن» مع الأسماء وعناوين البريد وأرقام الهواتف التي عثر عليها. وعلى بطاقة A100 يعالج هذا النموذج 54 طلبًا في الثانية، في حين يعالج المرشّح التوليدي الشائع WildGuard نحو 1,3 طلب.

لماذا تحولت المرشّحات إلى حديقة حيوان

الحواجز الوقائية (guardrails) هي فحوص على مدخلات تطبيق LLM ومخرجاته. وكل قرار منها منطقي بمفرده. الإشراف على المحتوى ضروري، لكنه يخطئ في الحالات غير المألوفة، فيُضاف مصنّف للضرر. ولأن نماذج الإشراف لم تُدرَّب على اصطياد حقن الموجّه (prompt injection)، تظهر الحاجة إلى كاشف آخر. ثم يأتي BERT لقياس السمّية، ويتولى البحث عن البيانات الشخصية حزمة منفصلة: privacy-filter من OpenAI، أو gliner-pii من NVIDIA، أو Presidio مع التعابير النمطية. وفي التطبيق القائم على الوكلاء يتضاعف كل هذا عند كل عقدة في الرسم البياني.

أما نماذج الإشراف القوية — Llama-Guard وShieldGemma وWildGuard وGPT-OSS-SafeGuard — فتولّد الإجابة رمزًا تلو رمز. وهي تعمل جيدًا، لكنها بطيئة ومكلفة، ونشرها يتحول سريعًا إلى مشكلة في الميزانية. والمرشّحات المشفّرة (encoder) الضيقة سريعة، لكن كل واحد منها يغطي تهديدًا واحدًا فقط. ولكل نموذج تسمياته وعتباته وجدول تحديثاته الخاص، ويلزم نشره كخدمة مستقلة.

كيف يعمل GLiNER Guard

هذه ليست بنية جديدة، بل تخصيص لـ GLiNER 2 لأمان تطبيقات LLM. المشفّر (encoder) لا يكتب نصًا، بل يقرأ المدخل كاملًا ويُخرج تقييمات، ولذلك لا ينتظر أن يصل نموذج آخر إلى رمز نهاية التسلسل (EOS) ليصدر حكمه. ويُسمى هذا النهج schema-driven: تمرّر النص وقائمة تسميات مع أوصاف اختيارية، فيقيّمها النموذج دون تدريب إضافي (zero-shot). ولتغيير سياسة الإشراف يكفي تعديل السلاسل النصية.

يمكن للمصرف تحديد النوايا «تحويل أموال» و«حظر البطاقة» و«طلب قرض»، ولروبوت الموارد البشرية «شكوى تحرش» و«طلب إجازة» و«سؤال عن الراتب». وفي الوضع الكامل يحل النموذج ست مهام دفعة واحدة: البيانات الشخصية، والأمان العام، والهجمات (استبدال التعليمات، وكسر الحماية عبر شخصية أو لعب أدوار، وتسريب البيانات)، ونوع الضرر، والنية، والنبرة. وبحسب تقدير المؤلف، هذه أربع تمريرات بدل عشرين.

تتكون العائلة من ثلاثة نماذج، حجم كل منها نحو 307 ملايين معامل:

  • الأول مبني على ModernBERT متعدد اللغات، ويُعلن دعم أكثر من 1800 لغة.
  • Omni مُدرَّب على أساس GLiNER 2 Multi مع هيكل أساسي (backbone) من نوع mDeBERTa، ويعمم بصورة أفضل خارج مهام الأمان.
  • Bi-encoder يرمّز التسميات بمعزل عن النص ويخزّنها مؤقتًا (cache)، فعند ثبات المخطط تُدفع كلفة الترميز مرة واحدة فقط.

الأرقام: السرعة والإشراف والبيانات الشخصية

القياسات على A100 عند حجم دفعة (batch size) يساوي 1: يستغرق WildGuard نحو 0,744 ثانية للطلب، بينما يعالج نموذج GLiGuard من نوع bi-encoder نحو 54 طلبًا في الثانية. وعلى اختبارات Aegis 2.0 وStrongReject وPolyGuard هذه أفضل نتيجة بين المشفّرات التي جرى اختبارها، كما يتفوق Omni على Llama-Guard 3 ذي 8 مليارات معامل. وفي StrongReject بلغ مقياس F1 (التوازن بين الدقة والاستدعاء) 98,5 لنسخة uni-encoder و99,7 لـ Omni. ويتقدم عليه YuFeng-XGuard (متوسط F1 ‏86,4، بحجم 8 مليارات معامل) وGPT-OSS-SafeGuard (83,3، بحجم 20 مليارًا)، لكنهما نموذجا استدلال (reasoning) بحجم 8–20 مليار معامل.

أما في البيانات الشخصية فتتوقف النتيجة على الاختبار المعتمد. يبيّن مقياس F2 مدى اكتمال ودقة اكتشاف النموذج للبيانات المراد إخفاؤها. وعلى لوحة صدارة مستقلة بالإنجليزية تبلغ نتيجة أفضل نموذج متخصص 88,7%، بينما يسجل Omni نسبة 80,4%. لكن Omni يتفوق على privacy-filter من OpenAI (70,8%) وعلى Nemotron-PII من OpenMed (78,3%) وعلى GLiNER2-large (78,6%). وفي اختبار متعدد اللغات يضم 23 لغة تنعكس الصورة: يحصل Omni على 93,0%، وgliner-pii من NVIDIA على 91,8%، وOpenMed-PII-SuperClinical-Large على 90,7%، وprivacy-filter من OpenAI على 82,1%. وثمن الشمولية نحو 8 نقاط مئوية في F2 بالإنجليزية، أما في البيانات متعددة اللغات فلا توجد فجوة.

متى يُستخدم ومتى لا

يناسب النموذج الحالات التي تتطلب الأمان والبيانات الشخصية معًا، ويتحدث فيها المستخدمون لغات مختلفة، وتكون حركة البيانات عالية، ولا يستوفي فيها مشرف LLM شروط الميزانية أو السرعة. ولا يناسب الحالات التي تقتصر فيها المهمة على البيانات الشخصية: فالنماذج المتخصصة أدق، وأحيانًا أسرع. وإذا كانت جودة الإشراف أهم من الكلفة، فإن YuFeng-XGuard وGPT-OSS-SafeGuard أقوى.

والحل الوسط العملي هو التتالي (cascade). يفحص GLiGuard كل حركة البيانات، وتُحال الحالات المشكوك فيها إلى نموذج أقوى، فلا يُستدعى الحارس الثقيل إلا لنسبة صغيرة من الطلبات.

تنبيه: السرعة وجزء من المقاييس مأخوذة من مادة المؤلفين أنفسهم، لذا ينبغي إعادة التحقق منها على عتادك وبياناتك. اختبر النموذج على اللغات وصيغ النصوص الموجودة لديك في بيئة الإنتاج: فهذا ما يحدد ما إذا كنت ستتحمل خسارة بنسبة 8% أم لن تتحمل أي خسارة. النماذج متاحة في مجموعة hivetrace على Hugging Face، وتُثبَّت بالأمر pip install "gliner2[local]".

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا تحولت المرشّحات إلى حديقة حيوان؟

الحواجز الوقائية (guardrails) هي فحوص على مدخلات تطبيق LLM ومخرجاته. وكل قرار منها منطقي بمفرده. الإشراف على المحتوى ضروري، لكنه يخطئ في الحالات غير المألوفة، فيُضاف مصنّف للضرر. ولأن نماذج الإشراف لم تُدرَّب على اصطياد حقن الموجّه (prompt injection)، تظهر الحاجة إلى كاشف آخر. ثم يأتي BERT لقياس السمّية، ويتولى البحث عن البيانات الشخصية حزمة منفصلة: privacy-filter من OpenAI، أو gliner-pii من NVIDIA، أو Presidio مع التعابير النمطية. وفي التطبيق القائم على الوكلاء يتضاعف كل هذا عند كل عقدة في الرسم البياني.

ما أبرز التفاصيل حول كيف يعمل GLiNER Guard؟

هذه ليست بنية جديدة، بل تخصيص لـ GLiNER 2 لأمان تطبيقات LLM. المشفّر (encoder) لا يكتب نصًا، بل يقرأ المدخل كاملًا ويُخرج تقييمات، ولذلك لا ينتظر أن يصل نموذج آخر إلى رمز نهاية التسلسل (EOS) ليصدر حكمه. ويُسمى هذا النهج schema-driven: تمرّر النص وقائمة تسميات مع أوصاف اختيارية، فيقيّمها النموذج دون تدريب إضافي (zero-shot). ولتغيير سياسة الإشراف يكفي تعديل السلاسل النصية. يمكن للمصرف تحديد النوايا «تحويل أموال» و«حظر البطاقة» و«طلب قرض»، ولروبوت الموارد البشرية «شكوى تحرش» و«طلب إجازة» و«سؤال عن الراتب».

ما أبرز التفاصيل حول الأرقام: السرعة والإشراف والبيانات الشخصية؟

القياسات على A100 عند حجم دفعة (batch size) يساوي 1: يستغرق WildGuard نحو 0,744 ثانية للطلب، بينما يعالج نموذج GLiGuard من نوع bi-encoder نحو 54 طلبًا في الثانية. وعلى اختبارات Aegis 2.0 وStrongReject وPolyGuard هذه أفضل نتيجة بين المشفّرات التي جرى اختبارها، كما يتفوق Omni على Llama-Guard 3 ذي 8 مليارات معامل. وفي StrongReject بلغ مقياس F1 (التوازن بين الدقة والاستدعاء) 98,5 لنسخة uni-encoder و99,7 لـ Omni.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…