SingProbe من Ant Group: حارس بـ 8,1 مليون معامل يبطئ نماذج LLM بأقل من 0,5%
عادةً يتولى نموذج ثانٍ يعمل كحارس فحص ردود روبوت الدردشة، وهذا مكلف ويبطئ البث التدريجي للإجابة. أتاحت Ant Group أداة SingProbe، وهي مستشعر بـ 8,1 مليون معامل يقرأ الحالات الداخلية لنموذج Ling-3.1-flash-1019 ويقيّم الضرر والهلوسة عند كل رمز (token). لا يتجاوز الحمل الإضافي 0,5%، وفي الفحص أثناء البث يتفوق على نماذج 8B مثل Qwen3Guard-8B. إذا كنت تستضيف نموذجًا مفتوحًا، فهذا سبب وجيه لاختباره بدلًا من خدمة الإشراف المنفصلة.
معالج بواسطة الذكاء الاصطناعي من X: @crazyMLguy؛ بتحرير Hamidun News
تخيّل أنك أطلقت روبوت دردشة يعمل على نموذج مفتوح كبير. ولكي لا يقدّم نصائح خطرة ولا يختلق وقائع، يُوضع إلى جانبه نموذج ثانٍ يؤدي دور «الحارس»: يقرأ الطلب والإجابة ويقرر هل يجوز عرض النص على المستخدم. هذا الحل يعمل، لكنه يستهلك ذاكرة الفيديو والمال، ويضيف زمن استجابة، ولا يتلاءم جيدًا مع البث التدريجي: فالإجابة تظهر على الشاشة بينما الحارس لا يزال يفكر.
اقترحت Ant Group مسارًا مختلفًا وأتاحت SingProbe، وهو مستشعر صغير بـ 8,1 مليون معامل مدمج في نموذج Ling-3.1-flash-1019 نفسه (ويشير عنوان الإعلان إلى حماية لنماذج LLM من فئة 560 مليار معامل). يضيف المستشعر أقل من 0,5% من الحمل على عمل النموذج، ويفحص النص أثناء التوليد، رمزًا بعد رمز.
الرمز (token) هو قطعة من النص، تقابل تقريبًا كلمة أو جزءًا منها.
كيف يعمل SingProbe
يشبه النموذج الرقابي الخارجي محررًا يقرأ مقالًا جاهزًا. أما SingProbe فأقرب إلى مستشعر نبض موصول بالكاتب نفسه: يلتقط إشارات الخطر قبل أن تُنطق الكلمات. من الناحية التقنية، ينظر المسبار إلى الحالات الخفية للنموذج، أي التمثيلات العددية الداخلية التي تبنيها الشبكة أثناء كتابة الإجابة. وانطلاقًا منها يقيّم ثلاثة أمور: النية الضارة في الطلب، والمخرجات غير الآمنة، والهلوسة، أي الاختلاقات التي تُقدَّم بثقة.
يُحتسب التقييم عند كل رمز. ولهذا يمكن رصد المشكلة قبل أن تصل إلى المستخدم وقطع الإجابة في منتصف الجملة، بدلًا من تصفيتها بأثر رجعي.
لماذا يهم هذا المهندسين
السبب الأول هو التكلفة. وفق بيانات Ant Group، تبلغ النفقات الإضافية على الاستدلال (inference) أقل من 0,5%. وللمقارنة: يتطلب نموذج حارس منفصل بـ 8 مليارات معامل ذاكرة فيديو خاصة به، ونشرًا خاصًا به، وطابور طلبات خاصًا به. أما مسبار بـ 8,1 مليون معامل فلا يكاد يشغل شيئًا.
السبب الثاني هو التكامل. يعمل SingProbe أصليًا داخل SGLang وvLLM، وهما خادمان شائعان لتشغيل النماذج. فلا حاجة إلى تشغيل خدمة إشراف منفصلة ومزامنتها مع التدفق الرئيسي. وتتيح رخصة MIT استخدام الكود في المنتجات التجارية دون تعقيدات قانونية.
السبب الثالث هو الجودة. تقول Ant Group إن SingProbe يتفوق، في مهمة الفحص الأمني أثناء البث، على بعض نماذج 8B المنفصلة، ومنها Qwen3Guard-8B. وهذه مقارنة لافتة: فـ Qwen3Guard حارس متخصص معروف، وقد سبقه هنا مستشعر أصغر منه بنحو ألف مرة من حيث عدد المعاملات.
إلى جانب Ling، أصدر الفريق نسخًا لنموذج DeepSeek-V4.1-Flash-1017 ولنماذج مفتوحة أخرى. وهذا يعني أن النهج نفسه غير مرتبط ببنية معمارية واحدة.
ما ينبغي أخذه في الحسبان
ثمة عدة تحفظات. أولًا، يقرأ المسبار دواخل النموذج، ولذلك لا يعمل إلا حيث تملك صلاحية الوصول إلى الحالات الخفية. ومع واجهات API المغلقة التي تعيد النص فقط، لا يمكن تطبيق هذه الحيلة. ثانيًا، بحسب اسم المستودع، دُرِّب كل مسبار لنموذج بعينه: فلا يمكن ببساطة إلحاق نسخة Ling بشبكة أخرى. ثالثًا، عُرضت المقارنة مع Qwen3Guard في الإعلان بصورة عامة. وقبل التخلي عن المرشح الحالي، شغّل SingProbe على بياناتك الخاصة: فقد تختلف فئات الضرر لديك ولغاتك وهلوساتك المعتادة عن تلك التي قاس عليها المؤلفون.
وأخيرًا، لا يحل المستشعر محل سياسة المنتج. فهو يعطي تقييمًا للمخاطر، أما ما يُفعل به، من قطع الإجابة أو استبدالها أو إحالتها إلى مراجعة بشرية، فيقرره الفريق.
ماذا تفعل عمليًا
إذا كنت تستضيف نموذجًا مفتوحًا بنفسك على vLLM أو SGLang وتدفع مقابل طبقة إشراف منفصلة، فمن المستحسن اختبار SingProbe في الأسابيع القريبة. ويصدق هذا خصوصًا على منتجات الدردشة بالبث التدريجي، حيث يهم زمن الاستجابة ويجب إيقاف الإجابة الخطرة فورًا. أما الفرق التي تعمل عبر واجهات API مغلقة، فالخبر بالنسبة إليها مؤشر اتجاه أكثر منه أداة: فالأمان ينتقل تدريجيًا من نماذج منفصلة إلى داخل الشبكات نفسها، وهذا أرخص وأسرع.
- 20 نوفمبر 2026GLM 5.3 المحلي يضاعف سرعة الذكاء الاصطناعي على ESP32-S3 بنسبة 100%، وQwen 3.8 27B بنسبة 30%
- 19 نوفمبر 2026MLPerf Training: عناقيد بحجم 10 240 وحدة GPU وتسريع التدريب بنسبة 49% خلال نصف عام
- 19 نوفمبر 2026CoreWeave أرخص بما يصل إلى 65% من مزوّدي الحوسبة السحابية العملاقة على عنقود Blackwell لمدة 3 سنوات
- 19 نوفمبر 2026روبوتات الدردشة تتراجع بعد ثلاثة اعتراضات: دقة إجاباتها عن المناخ تنخفض بنسبة 30–35%
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول كيف يعمل SingProbe؟
يشبه النموذج الرقابي الخارجي محررًا يقرأ مقالًا جاهزًا. أما SingProbe فأقرب إلى مستشعر نبض موصول بالكاتب نفسه: يلتقط إشارات الخطر قبل أن تُنطق الكلمات. من الناحية التقنية، ينظر المسبار إلى الحالات الخفية للنموذج، أي التمثيلات العددية الداخلية التي تبنيها الشبكة أثناء كتابة الإجابة. وانطلاقًا منها يقيّم ثلاثة أمور: النية الضارة في الطلب، والمخرجات غير الآمنة، والهلوسة، أي الاختلاقات التي تُقدَّم بثقة. يُحتسب التقييم عند كل رمز.
ما أبرز التفاصيل حول لماذا يهم هذا المهندسين؟
السبب الأول هو التكلفة. وفق بيانات Ant Group، تبلغ النفقات الإضافية على الاستدلال (inference) أقل من 0,5%. وللمقارنة: يتطلب نموذج حارس منفصل بـ 8 مليارات معامل ذاكرة فيديو خاصة به، ونشرًا خاصًا به، وطابور طلبات خاصًا به. أما مسبار بـ 8,1 مليون معامل فلا يكاد يشغل شيئًا. السبب الثاني هو التكامل. يعمل SingProbe أصليًا داخل SGLang وvLLM، وهما خادمان شائعان لتشغيل النماذج. فلا حاجة إلى تشغيل خدمة إشراف منفصلة ومزامنتها مع التدفق الرئيسي. وتتيح رخصة MIT استخدام الكود في المنتجات التجارية دون تعقيدات قانونية.
ما أبرز التفاصيل حول ما ينبغي أخذه في الحسبان؟
ثمة عدة تحفظات. أولًا، يقرأ المسبار دواخل النموذج، ولذلك لا يعمل إلا حيث تملك صلاحية الوصول إلى الحالات الخفية. ومع واجهات API المغلقة التي تعيد النص فقط، لا يمكن تطبيق هذه الحيلة. ثانيًا، بحسب اسم المستودع، دُرِّب كل مسبار لنموذج بعينه: فلا يمكن ببساطة إلحاق نسخة Ling بشبكة أخرى. ثالثًا، عُرضت المقارنة مع Qwen3Guard في الإعلان بصورة عامة. وقبل التخلي عن المرشح الحالي، شغّل SingProbe على بياناتك الخاصة: فقد تختلف فئات الضرر لديك ولغاتك وهلوساتك المعتادة عن تلك التي قاس عليها المؤلفون.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.