Hugging Face: واجهة transformers الخلفية في vLLM تعمل الآن بالسرعة الأصلية

نشرت Hugging Face في مدونتها الرسمية بتاريخ 8 يوليو 2026 نتائج اختبار أداء تُظهر أن الواجهة الخلفية لمكتبة transformers في vLLM باتت تعادل التنفيذات الأصلية في vLLM من حيث الأداء للمعماريات المتوافقة. وكل ما على المطورين فعله هو إضافة الخيار `--model-impl transformers` عند تشغيل الخادم، دون أي تغيير في البنية التحتية.

ما الذي تغيّر للمطورين

حتى الآن، كان الاستدلال عالي الأداء في vLLM يتطلب تنفيذات «يدوية» منفصلة لكل معمارية. وكان النموذج البحثي في transformers ونسخته الإنتاجية في vLLM يتباعدان، ما استلزم مزامنة قاعدتَي الكود عند كل تحديث للمعمارية.

الآن تُترجم مكتبة transformers تلقائيًا إلى نوى vLLM المحسّنة عبر `torch.fx` (تحليل ثابت لرسم الحوسبة) وعبر معالجة AST لإعادة كتابة العمليات. وتبني المنظومة داخليًا رسمًا حسابيًا، وتبحث عن أنماط يمكن استبدالها بنواة محسّنة واحدة، وتدمج إضافةً إلى ذلك الطبقات من نوع column-parallel وQKV-parallel في النماذج التي تعتمد tensor parallelism.

أبرز الحقائق:

• التاريخ: 8 يوليو 2026، المدونة الرسمية لـ Hugging Face
• خيار التشغيل: `--model-impl transformers` في الأمر `vllm serve`
• النماذج المختبرة: Qwen3-4B (وحدة GPU واحدة)، وQwen3-32B (وحدتا GPU، tensor parallelism)، وQwen3-235B MoE FP8 (8×H100)
• النتيجة: الواجهة الخلفية لا تقل عن vLLM الأصلي في معدل الإنتاجية، أو تتفوق عليه
• التوافق: `torch.compile` وCUDA Graphs ودعم التدريب (وهو غير متوفر في تنفيذات vLLM الأصلية)
• النطاق: أكثر من 450 معمارية في مكتبة transformers

كيف جرى الاختبار عمليًا

أجرت Hugging Face اختبار الأداء على ثلاث تهيئات من Qwen3 تتدرج في التعقيد: Qwen3-4B على وحدة GPU واحدة، وQwen3-32B مع tensor parallelism على وحدتي GPU، وQwen3-235B بصيغة FP8 وبمعمارية Mixture-of-Experts على ثماني وحدات H100 مع data parallelism وexpert parallelism في الوقت نفسه. وفي التهيئات الثلاث جميعها، سجّلت الواجهة الخلفية لـ transformers معدل إنتاجية مساويًا لـ vLLM الأصلي أو أعلى منه.

«يستطيع مطورو النماذج الآن الحصول على استدلال فائق السرعة في vLLM مجانًا»، بحسب المدونة الرسمية لـ

Hugging Face.

وثمة ميزة مهمة مقارنةً بتنفيذات vLLM الأصلية: الواجهة الخلفية لـ transformers تحتفظ بدعم التدريب. فقد صُمّمت تنفيذات vLLM الأصلية للاستدلال فقط، وكان على الفرق التي تحتاج إلى الضبط الدقيق (fine-tuning) والتقديم عالي الأداء (serving) معًا أن تُبقي على مسارَي كود منفصلين.

لماذا يهم ذلك المنظومة التقنية

تُعدّ مكتبة transformers التنفيذ المرجعي لأكثر من 450 معمارية، وهي مدمجة في SGLang وMLX وllama.cpp. ويُسقط التكافؤ مع vLLM الأصلي إحدى أبرز الحجج ضد استخدامها في الإنتاج، وهي الحاجة إلى إعادة كتابة النماذج لمحرك تقديم بعينه. ويكتسب ذلك أهمية خاصة في ظل التجزؤ القائم، إذ كان كل محرك يتطلب سابقًا تنفيذه الخاص.

ويتقلص بذلك كثيرًا المسار بين نشر نموذج جديد على Hugging Face Hub والوصول إلى نشر عالي الأداء. فلم يعد على المطور انتظار أن يضيف فريق vLLM دعمًا أصليًا للمعمارية؛ يكفي الخيار المناسب وتنفيذ متوافق في transformers. وتتضح أهمية ذلك خصوصًا للباحثين المستقلين والفرق الصغيرة التي لا تملك الموارد اللازمة لكتابة تنفيذات vLLM منفصلة وصيانتها.

القيود الحالية: النماذج ذات الانتباه الخطي (linear attention) غير مدعومة بعد؛ وقد تواجه النماذج المخصصة المأخوذة من مستودعات Hub مشكلات في التوافق.

ماذا يعني ذلك

اختفى عمليًا الحاجز بين الكود البحثي في transformers والاستدلال عالي الأداء في vLLM. فما كان يتطلب سابقًا تحسينًا يدويًا لكل محرك، بات يتحقق بخيار واحد في سطر الأوامر، وهو خفض مباشر للتكاليف الهندسية للفرق التي تطوّر نماذج لغوية كبيرة وتنشرها.

الأسئلة الشائعة

ما النماذج التي تدعمها الواجهة الخلفية الجديدة؟

تدعم الواجهة أكثر من 450 معمارية من مكتبة transformers. وقد اختُبرت على Qwen3-4B وQwen3-32B وQwen3-235B MoE FP8. أما النماذج ذات الانتباه الخطي (linear attention) فهي غير مدعومة في الإصدار الحالي؛ وقد تتطلب النماذج المخصصة من Hub التحقق من التوافق.

كيف يمكن تشغيل vLLM مع الواجهة الخلفية لـ transformers؟

لوحدة GPU واحدة: `vllm serve Qwen/Qwen3-4B --model-impl transformers`. ولعدة وحدات GPU: `vllm serve Qwen/Qwen3-32B --model-impl transformers --tensor-parallel-size 2`. ولا يلزم أي تغيير آخر في البنية التحتية.