UltraEP من Xiaohongshu: موازنة خبراء MoE خلال 300 ميكروثانية وبنسبة 94.3% من المثالي

قدّم فريق dots infra في شركة Xiaohongshu (小红书، «شياوهونغشو») بيئة التشغيل UltraEP، التي توازن في الوقت الفعلي أحمال خبراء نماذج MoE على أنظمة rack-scale، وتبلغ 94.3% من الإنتاجية المثالية (throughput) للتدريب والاستدلال. نُشرت الورقة البحثية على arXiv في 2 يونيو 2026.

ما المشكلة التي يحلّها UltraEP

يعالج UltraEP اختلال توزيع الأحمال بين خبراء نماذج MoE، وهو اختلال يُبقي أنظمة GPU الرفّية باهظة الثمن في حالة خمول. في عقد rack-scale مثل Huawei Atlas 900 A3 SuperPoD وNVIDIA NVL72، تُجمع عشرات وحدات GPU في نطاق ربط بيني (interconnect) واحد عالي السرعة، ويُوزَّع خبراء النموذج بينها (Expert Parallelism). لكن الرموز (tokens) تختار الخبراء بصورة غير متكافئة: تُثقَل بعض وحدات GPU بالأحمال فتصبح «متأخرة» (compute stragglers)، وتظهر اختناقات في اتصالات all-to-all، وتحدث قفزات في استهلاك الذاكرة المخصصة للتنشيطات (activations).

تعيد أدوات الموازنة الحالية ترتيب الخبراء بصورة دورية، استنادًا إلى الأحمال التاريخية. ووفق المؤلفين، لا يُعتمد على هذا النهج في عمليات النشر الإنتاجية الفعلية ذات نمط الأحمال غير المستقر؛ إذ يبلغ الاختلال بين الرتب (ranks) نحو 4.01× مقارنة بالمتوسط، وتبقى بعض بطاقات الرف خاملة بينما تُبطئ وحدات GPU المثقلة الخطوة بأكملها.

كيف تعمل الموازنة خلال 300 ميكروثانية

يعيد UltraEP الموازنة عند كل دفعة مصغّرة وفي كل طبقة، مباشرة على المسار الحرج للحسابات، لا مرة كل N خطوة. يستجيب النظام للأحمال فور مرحلة البوابة (gating) عبر مجدوِل يعتمد على الحصص (quota-driven)، وينفّذ عمليات نقل غير منتظمة لحالات الخبراء عبر persistent tile streaming الأصيل في عقد rack-scale، مع آلية relay لمنع فرط الحمل في fan-out. أما التكلفة الإضافية فتبلغ نحو 300 ميكروثانية لكل عملية إعادة موازنة.

• 94.3% من الإنتاجية المثالية (force-balanced) بمتوسط التدريب والاستدلال
• تسريع بمقدار 1.49× مقارنة بالتشغيل دون موازنة
• انخفاض اختلال الأحمال بين الرتب من 1.30–4.01 إلى 1.01–1.04
• تكلفة إعادة الموازنة (overhead) نحو 300 ميكروثانية
• الاختبارات: نشر متعدد RSN يصل إلى 256 وحدة GPU
• نماذج من 106 إلى 671 مليار معامل؛ arXiv 2606.04101، قُدّمت في 2 يونيو 2026

«UltraEP هو أول أداة موازنة تراعي الأحمال الفعلية بدقة وفي الوقت الفعلي لتدريب نماذج

MoE الكبيرة والاستدلال في مرحلة prefill على عقد rack-scale»، وفق ما جاء في ورقة فريق dots infra على arXiv.

لماذا يهم هذا تدريب نماذج MoE

ينقل UltraEP موازنة الخبراء من النمط «الدوري» إلى الوقت الفعلي، ويستعيد ما يصل إلى 1.49× من الإنتاجية على العتاد نفسه. وبالنسبة إلى نماذج بحجم 671 مليار معامل (مقياس DeepSeek-V3)، يعني ذلك أن الرفوف المؤلفة من عشرات وحدات GPU لن تبقى خاملة بسبب خبراء «ساخنين» يستحوذون على عدد غير متناسب من الرموز. ويكمن مفتاح السرعة في طوبولوجيا rack-scale ذاتها: فاتساع الترابط بين عشرات وحدات GPU داخل العقدة يتيح تبديل الخبراء بين البطاقات أسرع مما تفعله أدوات الموازنة الدورية التقليدية. وقد نُفّذ UltraEP كبيئة تشغيل مستقلة، وبحسب المؤلفين يمكن دمجه في حزم التدريب والاستدلال القائمة دون إعادة كتابتها.

ماذا يعني ذلك

تتحول موازنة الأحمال إلى الجبهة التالية في معركة كفاءة نماذج MoE، بعد عرض النطاق الترددي وسرعة الاتصالات. ويُظهر UltraEP أن ترابط عقد rack-scale يتيح إعادة خلط الخبراء عند كل خطوة حرفيًا، فتُستخلص من عتاد تُقدَّر قيمته بملايين الدولارات نسبة استغلال قريبة من المثالية.

الأسئلة الشائعة

على أي نماذج اختُبر UltraEP؟

اختُبر UltraEP على نماذج MoE متقدمة تتراوح بين 106 و671 مليار معامل، في نشر متعدد RSN يصل إلى 256 وحدة GPU، مع حساب متوسط النتائج عبر سيناريوهات التدريب والاستدلال في مرحلة prefill.

ما مقدار تسريع UltraEP لنماذج MoE؟

وفق الورقة، يحقق UltraEP زيادة في الإنتاجية (throughput) بمقدار 1.49× مقارنة بالتشغيل دون موازنة، ويبلغ 94.3% من الحد الأقصى النظري عند توزيع أحمال متوازن تمامًا.

ما هي أنظمة rack-scale؟

هي عقد رفّية مثل Huawei Atlas 900 A3 SuperPoD وNVIDIA NVL72، تُجمع فيها عشرات وحدات GPU في نطاق ربط بيني (interconnect) واحد عالي السرعة. واتساع الترابط في هذه الأنظمة هو ما يتيح لـ UltraEP نقل حالات الخبراء بين البطاقات خلال ميكروثوانٍ.