Tencent تفتح مصدر AngelSpec: إطار عمل لتسريع استدلال نماذج LLM عبر speculative decoding

فتحت شركة Tencent في 30 يوليو 2026 الشفرة المصدرية لـ AngelSpec، وهو إطار torch-native لتدريب نماذج المسودة (draft) في speculative decoding. وعلى نماذج Hy3 رفع الإطار متوسط معدل قبول الرموز المقترحة من 52,8% إلى 66,4% دون فقدان في جودة التوليد.

ما هو speculative decoding

Speculative decoding هو أسلوب لتسريع التوليد في النموذج اللغوي الكبير دون خسارة في جودة الإجابة. يقترح نموذج مسودة خفيف عدة رموز مستقبلية دفعة واحدة، ثم يتحقق النموذج الأساسي (target) منها جميعًا في تمريرة واحدة عبر rejection sampling. الطريقة lossless: النص النهائي يطابق ما كان سيولّده النموذج الأساسي بمفرده. ويعتمد التسريع على عاملين: عدد الرموز المسودة المقبولة، ومدة الدورة الكاملة «مسودة — تحقق».

• تاريخ الإصدار: 30 يوليو 2026، والترخيص مفتوح المصدر
• الإطار torch-native ويعمل على نماذج عائلة Hy3
• يغطي نهجين: MTP ذاتي الانحدار (autoregressive)، وعائلة DFlash المتوازية على مستوى الكتل (DFly وD-cut)
• متوسط معدل قبول الرموز: 52,8% ← 66,4% عند T=0
• متوسط طول المسودة المقبولة: 2,58 ← 2,99 رمز

لماذا يخسر نموذج واحد شامل

يخسر نموذج المسودة الواحد الشامل لأن حركة الاستخدام الفعلية غير متجانسة، ولأن مقياسَي السرعة يسحبان في اتجاهين متعاكسين. في الحوار المفتوح ذي الإنتروبيا العالية تصحّ عشرات المتابعات الممكنة، فينخفض معدل القبول بسرعة مع زيادة عمق الاقتراح، ولا يكون توليد كتلة طويلة مجديًا. أما البرمجة والرياضيات فتتصرفان بشكل مختلف: فالصياغة النحوية والمعرّفات المتكررة والاشتقاقات خطوة بخطوة تقيّد الرموز المستقبلية بدرجة أكبر، وتخلق مقاطع طويلة يسهل التنبؤ بها. لذلك يقدّم AngelSpec نموذجي مسودة بدلًا من حل وسط واحد: يُدرَّب MTP على بيانات حوارية متنوعة، ويُعزَّز block-diffusion بأمثلة من البرمجة والرياضيات.

«يتعامل

AngelSpec مع عدم تجانس الحمل بوصفه قيدًا تصميميًا من الدرجة الأولى»، بحسب تحليل نشره MarkTechPost.

كيف يعمل مسار MTP

يعالج مسار MTP عدم التوافق بين التدريب والاستدلال عبر مخطط يعتمد معاملات مشتركة وعدة أعماق. تدرّب نموذج Hy3 الأصلي بطبقة MTP واحدة دون فتح تكراري (recurrent unrolling)، ولذلك كانت الرموز في الموضعين الثاني والثالث من المسودة تُقبل بدرجة أسوأ بوضوح. يحافظ AngelSpec على D من الأعماق المنطقية، لكنه يعيد استخدام كتلة MTP فيزيائية واحدة، فيفتحها على D خطوة أثناء التدريب. وبحسب مبدأ Training-Time Test من EAGLE-3، يتلقى العمق k+1 توقّع argmax من العمق k بدلًا من الرمز المرجعي. بالإضافة إلى ذلك، يُجمَّد الـ backbone الأساسي ورأس اللغة، ويجري التدريب على مخرجات النموذج الأساسي نفسه.

ويتركّز الأثر حيث تلزم الحاجة إليه. وفق بيانات Tencent، ارتفع قبول الموضع الثالث في اختبار GSM8K من 0,290 إلى 0,706، وفي HumanEval من 0,387 إلى 0,757، بينما لم يتغير الموضع الأول تقريبًا (0,799 ← 0,814).

ماذا يعني ذلك

يُظهر AngelSpec أن الأجدى بناء تسريع الاستدلال على أساس عدم التجانس الفعلي للحمل، لا على أساس اختبار معياري متوسط، أي باستخدام نماذج مسودة مختلفة للحوار وللبرمجة. وبالنسبة للفرق التي تشغّل نماذج LLM في بيئة الإنتاج، فهذه أداة مفتوحة لاستخلاص مزيد من السرعة من العتاد نفسه دون تراجع في الجودة.

أسئلة شائعة

ما هو speculative decoding بعبارات بسيطة؟

هو أسلوب لتسريع نماذج LLM، يخمّن فيه نموذج صغير عدة رموز تالية مسبقًا، ثم يتحقق منها نموذج كبير في تمريرة واحدة. إذا صحّ التخمين يصبح التوليد أسرع، بينما لا تتغير جودة النص.

ما الفرق بين AngelSpec ونموذج مسودة واحد؟

يدرّب AngelSpec نموذجين متخصصين: MTP للحوارات ذات الإنتروبيا العالية، ونموذج block-parallel للبرمجة والرياضيات ذات المقاطع الطويلة القابلة للتنبؤ. ووفق قياسات Tencent، رفع ذلك متوسط معدل قبول الرموز من 52,8% إلى 66,4%.