ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارX: @crazyMLguy→ المصدر

SingProbe من Ant Group: حارس بـ 8,1 مليون معامل يبطئ نماذج LLM بأقل من 0,5%

عادةً يتولى نموذج ثانٍ يعمل كحارس فحص ردود روبوت الدردشة، وهذا مكلف ويبطئ البث التدريجي للإجابة. أتاحت Ant Group أداة SingProbe، وهي مستشعر بـ 8,1 مليون معامل يقرأ الحالات الداخلية لنموذج Ling-3.1-flash-1019 ويقيّم الضرر والهلوسة عند كل رمز (token). لا يتجاوز الحمل الإضافي 0,5%، وفي الفحص أثناء البث يتفوق على نماذج 8B مثل Qwen3Guard-8B. إذا كنت تستضيف نموذجًا مفتوحًا، فهذا سبب وجيه لاختباره بدلًا من خدمة الإشراف المنفصلة.

معالج بواسطة الذكاء الاصطناعي من X: @crazyMLguy؛ بتحرير Hamidun News
SingProbe من Ant Group: حارس بـ 8,1 مليون معامل يبطئ نماذج LLM بأقل من 0,5%
المصدر: X: @crazyMLguy. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @crazyMLguy ↗
رئيس التحرير
حقيقة رئيسية #1رخصة MIT، ويعمل داخل SGLang وvLLM دون خدمة منفصلة
حقيقة رئيسية #28,1 مليون معامل مقابل 8 مليارات في Qwen3Guard-8B، أي أصغر بنحو 1000 مرة تقريبًا
حقيقة رئيسية #3تتوافر نسخ لنموذج DeepSeek-V4.1-Flash-1017 ولنماذج مفتوحة أخرى

تخيّل أنك أطلقت روبوت دردشة يعمل على نموذج مفتوح كبير. ولكي لا يقدّم نصائح خطرة ولا يختلق وقائع، يُوضع إلى جانبه نموذج ثانٍ يؤدي دور «الحارس»: يقرأ الطلب والإجابة ويقرر هل يجوز عرض النص على المستخدم. هذا الحل يعمل، لكنه يستهلك ذاكرة الفيديو والمال، ويضيف زمن استجابة، ولا يتلاءم جيدًا مع البث التدريجي: فالإجابة تظهر على الشاشة بينما الحارس لا يزال يفكر.

اقترحت Ant Group مسارًا مختلفًا وأتاحت SingProbe، وهو مستشعر صغير بـ 8,1 مليون معامل مدمج في نموذج Ling-3.1-flash-1019 نفسه (ويشير عنوان الإعلان إلى حماية لنماذج LLM من فئة 560 مليار معامل). يضيف المستشعر أقل من 0,5% من الحمل على عمل النموذج، ويفحص النص أثناء التوليد، رمزًا بعد رمز.

الرمز (token) هو قطعة من النص، تقابل تقريبًا كلمة أو جزءًا منها.

كيف يعمل SingProbe

يشبه النموذج الرقابي الخارجي محررًا يقرأ مقالًا جاهزًا. أما SingProbe فأقرب إلى مستشعر نبض موصول بالكاتب نفسه: يلتقط إشارات الخطر قبل أن تُنطق الكلمات. من الناحية التقنية، ينظر المسبار إلى الحالات الخفية للنموذج، أي التمثيلات العددية الداخلية التي تبنيها الشبكة أثناء كتابة الإجابة. وانطلاقًا منها يقيّم ثلاثة أمور: النية الضارة في الطلب، والمخرجات غير الآمنة، والهلوسة، أي الاختلاقات التي تُقدَّم بثقة.

يُحتسب التقييم عند كل رمز. ولهذا يمكن رصد المشكلة قبل أن تصل إلى المستخدم وقطع الإجابة في منتصف الجملة، بدلًا من تصفيتها بأثر رجعي.

لماذا يهم هذا المهندسين

السبب الأول هو التكلفة. وفق بيانات Ant Group، تبلغ النفقات الإضافية على الاستدلال (inference) أقل من 0,5%. وللمقارنة: يتطلب نموذج حارس منفصل بـ 8 مليارات معامل ذاكرة فيديو خاصة به، ونشرًا خاصًا به، وطابور طلبات خاصًا به. أما مسبار بـ 8,1 مليون معامل فلا يكاد يشغل شيئًا.

السبب الثاني هو التكامل. يعمل SingProbe أصليًا داخل SGLang وvLLM، وهما خادمان شائعان لتشغيل النماذج. فلا حاجة إلى تشغيل خدمة إشراف منفصلة ومزامنتها مع التدفق الرئيسي. وتتيح رخصة MIT استخدام الكود في المنتجات التجارية دون تعقيدات قانونية.

السبب الثالث هو الجودة. تقول Ant Group إن SingProbe يتفوق، في مهمة الفحص الأمني أثناء البث، على بعض نماذج 8B المنفصلة، ومنها Qwen3Guard-8B. وهذه مقارنة لافتة: فـ Qwen3Guard حارس متخصص معروف، وقد سبقه هنا مستشعر أصغر منه بنحو ألف مرة من حيث عدد المعاملات.

إلى جانب Ling، أصدر الفريق نسخًا لنموذج DeepSeek-V4.1-Flash-1017 ولنماذج مفتوحة أخرى. وهذا يعني أن النهج نفسه غير مرتبط ببنية معمارية واحدة.

ما ينبغي أخذه في الحسبان

ثمة عدة تحفظات. أولًا، يقرأ المسبار دواخل النموذج، ولذلك لا يعمل إلا حيث تملك صلاحية الوصول إلى الحالات الخفية. ومع واجهات API المغلقة التي تعيد النص فقط، لا يمكن تطبيق هذه الحيلة. ثانيًا، بحسب اسم المستودع، دُرِّب كل مسبار لنموذج بعينه: فلا يمكن ببساطة إلحاق نسخة Ling بشبكة أخرى. ثالثًا، عُرضت المقارنة مع Qwen3Guard في الإعلان بصورة عامة. وقبل التخلي عن المرشح الحالي، شغّل SingProbe على بياناتك الخاصة: فقد تختلف فئات الضرر لديك ولغاتك وهلوساتك المعتادة عن تلك التي قاس عليها المؤلفون.

وأخيرًا، لا يحل المستشعر محل سياسة المنتج. فهو يعطي تقييمًا للمخاطر، أما ما يُفعل به، من قطع الإجابة أو استبدالها أو إحالتها إلى مراجعة بشرية، فيقرره الفريق.

ماذا تفعل عمليًا

إذا كنت تستضيف نموذجًا مفتوحًا بنفسك على vLLM أو SGLang وتدفع مقابل طبقة إشراف منفصلة، فمن المستحسن اختبار SingProbe في الأسابيع القريبة. ويصدق هذا خصوصًا على منتجات الدردشة بالبث التدريجي، حيث يهم زمن الاستجابة ويجب إيقاف الإجابة الخطرة فورًا. أما الفرق التي تعمل عبر واجهات API مغلقة، فالخبر بالنسبة إليها مؤشر اتجاه أكثر منه أداة: فالأمان ينتقل تدريجيًا من نماذج منفصلة إلى داخل الشبكات نفسها، وهذا أرخص وأسرع.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول كيف يعمل SingProbe؟

يشبه النموذج الرقابي الخارجي محررًا يقرأ مقالًا جاهزًا. أما SingProbe فأقرب إلى مستشعر نبض موصول بالكاتب نفسه: يلتقط إشارات الخطر قبل أن تُنطق الكلمات. من الناحية التقنية، ينظر المسبار إلى الحالات الخفية للنموذج، أي التمثيلات العددية الداخلية التي تبنيها الشبكة أثناء كتابة الإجابة. وانطلاقًا منها يقيّم ثلاثة أمور: النية الضارة في الطلب، والمخرجات غير الآمنة، والهلوسة، أي الاختلاقات التي تُقدَّم بثقة. يُحتسب التقييم عند كل رمز.

ما أبرز التفاصيل حول لماذا يهم هذا المهندسين؟

السبب الأول هو التكلفة. وفق بيانات Ant Group، تبلغ النفقات الإضافية على الاستدلال (inference) أقل من 0,5%. وللمقارنة: يتطلب نموذج حارس منفصل بـ 8 مليارات معامل ذاكرة فيديو خاصة به، ونشرًا خاصًا به، وطابور طلبات خاصًا به. أما مسبار بـ 8,1 مليون معامل فلا يكاد يشغل شيئًا. السبب الثاني هو التكامل. يعمل SingProbe أصليًا داخل SGLang وvLLM، وهما خادمان شائعان لتشغيل النماذج. فلا حاجة إلى تشغيل خدمة إشراف منفصلة ومزامنتها مع التدفق الرئيسي. وتتيح رخصة MIT استخدام الكود في المنتجات التجارية دون تعقيدات قانونية.

ما أبرز التفاصيل حول ما ينبغي أخذه في الحسبان؟

ثمة عدة تحفظات. أولًا، يقرأ المسبار دواخل النموذج، ولذلك لا يعمل إلا حيث تملك صلاحية الوصول إلى الحالات الخفية. ومع واجهات API المغلقة التي تعيد النص فقط، لا يمكن تطبيق هذه الحيلة. ثانيًا، بحسب اسم المستودع، دُرِّب كل مسبار لنموذج بعينه: فلا يمكن ببساطة إلحاق نسخة Ling بشبكة أخرى. ثالثًا، عُرضت المقارنة مع Qwen3Guard في الإعلان بصورة عامة. وقبل التخلي عن المرشح الحالي، شغّل SingProbe على بياناتك الخاصة: فقد تختلف فئات الضرر لديك ولغاتك وهلوساتك المعتادة عن تلك التي قاس عليها المؤلفون.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…