ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
بنية تحتيةتحليل · على الرادارPyTorch Blog→ المصدر

Helion من PyTorch يحسب إعدادات نوى GPU أثناء التصريف بدلًا من 25 ساعة من الضبط التلقائي

لكي تعمل نواة GPU بسرعة، لا بد من اختيار أحجام الكتل وعدد الخيوط وعمق خط المعالجة. في Helion، لغة PyTorch لكتابة هذه النوى، يتولى ذلك ضابط تلقائي يجرّب الخيارات واحدًا تلو الآخر: فقد استغرق ضبط نواة paged-attention واحدة على 72 شكلًا من أشكال البيانات 10 ساعات في الوضع السريع و25 ساعة في الوضع الكامل. أما الآن فيحدد المصرِّف نوع النواة ويضبط الإعدادات فورًا، دون تجريب الخيارات. لذلك يمكن تأجيل البحث الطويل في حالة النماذج الأولية والأشكال الجديدة.

معالج بواسطة الذكاء الاصطناعي من PyTorch Blog؛ بتحرير Hamidun News
Helion من PyTorch يحسب إعدادات نوى GPU أثناء التصريف بدلًا من 25 ساعة من الضبط التلقائي
المصدر: PyTorch Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليPyTorch Blog ↗
رئيس التحرير
تنقسم النوى إلى ثلاث عائلاتضرب المصفوفات (matmul)، والاختزال (reduction)، والعمليات عنصرًا بعنصر
حقيقة رئيسية #2يضيف التحليل إلى التصريف عشرات المللي ثانية فقط
الاختبار153 توليفة من النواة والشكل على H100، وست نوى من vLLM

لا يكفي كتابة نواة GPU: فلكي تعمل بسرعة، لا بد من ضبط عشرات الإعدادات، مثل أحجام الكتل وعدد الخيوط (warps) وعمق خط تحميل البيانات. في Helion، وهي لغة PyTorch لنوى تعلّم الآلة القابلة للنقل بين العتاد، يتولى ذلك ضابط تلقائي: يصرِّف عددًا كبيرًا من الخيارات ويقيس أداءها، ثم يختار الأفضل. وهو يؤدي عمله بدقة، لكن ببطء. فقد أنفق فريق ضبَط نواة paged-attention واحدة على 72 شكلًا من أشكال البيانات 10 ساعات في الوضع السريع من Helion و25 ساعة في الوضع الكامل. وإذا تعددت النوى والأشكال وبطاقات الرسوميات، تضاعف الوقت بسرعة. لذلك أضاف فريق Helion قواعد استدلالية (heuristics) تعمل وقت التصريف، وتختار الإعدادات مباشرة دون تجريب الخيارات.

كيف يخمّن المصرِّف الإعدادات

يمكن أن تتحول نواة Helion واحدة إلى آلاف النوى المختلفة في Triton، وعلى الضابط التلقائي أن يختار إحداها. أما القاعدة الاستدلالية فتعمل بطريقة مختلفة: تقرأ التمثيل الوسيط للنواة (IR) وتسجّل حقائق بنيوية، منها: أي المحاور مقسّمة إلى كتل، وأي الأحجام قابلة للتغيير، وأي البلاطات (tiles) حيّة في كل مقطع. ثم تستخلص من هذه الحقائق إعدادًا جاهزًا.

تُصنَّف النواة أولًا ضمن إحدى ثلاث عائلات. تتبع أي نواة تتضمن ضرب مصفوفات، مثل hl.dot أو torch.baddbmm، فرع المصفوفات، حتى لو احتوت على عمليات أخرى. وتتبع النواة التي تتضمن اختزالًا (طيّ صف إلى عدد أقل من القيم) دون ضرب مصفوفات فرع الاختزال. وكل ما عدا ذلك يُعدّ عمليات عنصرًا بعنصر. وإذا لم تكن جميع الأحجام معروفة وقت التصريف، لا تُفعَّل القاعدة الاستدلالية، ويعتمد Helion الإعدادات الافتراضية السابقة.

تستند جميع الفروع إلى تحليل واحد: كم يحتاج كل كتلة خيوط (CTA) من السجلات والذاكرة المشتركة، وفي Blackwell من الذاكرة التنسورية، عند الأحجام المختارة. ومن ذلك يُستنتج عدد الكتل التي تتسع على المعالج المتعدد. ومثال من المقال: تحتاج الكتلة إلى عُشر السجلات والذاكرة المشتركة، لكن إلى ستة أعشار الذاكرة التنسورية. ولا تتسع كتلتان من هذا النوع، لأن 0,6 × 2 = 1,2، أي أن الميزانية تُتجاوز بنسبة 20%. وهكذا تبقى كتلة واحدة على كل معالج متعدد.

ثم تحدد هذه التقديرات الإعدادات. فزيادة مراحل خط المعالجة تخفي زمن التحميل بصورة أفضل، لكن ست مراحل قد تستحوذ على الذاكرة المشتركة كلها وتُبقي كتلة واحدة على كل معالج متعدد. وغالبًا ما تكون ثلاث مراحل مع كتلتين أنفع. وإذا كان عدد الكتل أقل من عدد المعالجات المتعددة، يُصغَّر حجم الكتلة. وإذا كانت نواة الاختزال تقرأ الصف مرتين، كما في RMSNorm (تحسب المقياس أولًا ثم تطبّقه)، فمن الأفضل إبقاء الصف في الذاكرة وعدم العودة إليه.

ما أظهرته القياسات

يؤكد المؤلفون أن الهدف ليس التفوق على ضابط تلقائي يجرّب آلاف الخيارات، بل إضافة نقطة وسطى بين سرعة التشغيل ووقت الانتظار.

أُجريت الاختبارات على H100. قورنت تسعة أنواع من الانتباه الخطي على 96 توليفة من النواة والشكل بنوى Triton المكتوبة يدويًا من مكتبة FLA. فتفوّق الإعداد المحسوب عليها، وكان أسرع من إعدادات Helion السابقة دون ضبط تلقائي. وفي ست نوى إنتاجية لـ vLLM (مُكمِّمان FP8، وRMSNorm وSiLU-and-multiply مع التكميم، وتطبيع QK مع RoPE) شمل الاختبار 153 توليفة من النواة والشكل. وهنا تقدّم الإعداد المحسوب على مشغّلات CUDA/C++ المكتوبة يدويًا في vLLM. أما الضبط التلقائي الكامل على هذه النوى فلا يضيف إلا القليل جدًا إلى الإعداد المجاني.

وقورنت كذلك نوى «الاستخدام اليومي» بـ torch.compile في وضع max-autotune: عشرة اختزالات على 80 توليفة، وثلاث عشرة عائلة من نوى المصفوفات على 70 شكلًا. وتكلفة التحليل نفسه ضئيلة: فالفرق في زمن التصريف مع القواعد الاستدلالية وبدونها يبلغ عشرات المللي ثانية، وهو يضيع في زمن تصريف Triton.

تلميحات للضابط التلقائي والقيود

يمكن للقواعد الاستدلالية نفسها أن تُخرج من 5 إلى 20 إعدادًا متقاربًا لتكون نقاط انطلاق للضابط التلقائي. يجب أن يكون الإعداد الرئيسي جيدًا بذاته، أما الإعدادات الاحتياطية فغايتها أن يبدأ البحث من الخيارات الواعدة.

وثمة قيود أيضًا. فالقاعدة الاستدلالية تخمّن قرارات Triton: ما الذي سيذهب إلى السجلات، وما الذي سيمر عبر الذاكرة المشتركة، وما الذي لن يُجسَّد في الذاكرة أصلًا. والتقدير تقريبي. وعندما تحتوي نواة واحدة على عدة عمليات ضرب مصفوفات، قد تتعارض إعداداتها، كأن يكون num_warps واحدًا للجميع. وفي هذه الحالة تغلب عملية الضرب ذات المراكِم داخل الحلقة، ثم تلك ذات حجم العمل الأكبر. أُجريت القياسات على H100 وتخص مجموعات محددة من النوى.

والخلاصة العملية لمن يكتبون النوى على Helion: في النماذج الأولية والأشكال الجديدة والنوى النادرة، يمكن تأجيل الضبط التلقائي الطويل، لأن الإعدادات الجاهزة صارت أقرب إلى الإعدادات المضبوطة. أما إذا كنتم تسلّمون مجموعة ثابتة من الأشكال، فيظل من المفيد تشغيل الضبط التلقائي الكامل مرة واحدة قبل الإصدار.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول كيف يخمّن المصرِّف الإعدادات؟

يمكن أن تتحول نواة Helion واحدة إلى آلاف النوى المختلفة في Triton، وعلى الضابط التلقائي أن يختار إحداها. أما القاعدة الاستدلالية فتعمل بطريقة مختلفة: تقرأ التمثيل الوسيط للنواة (IR) وتسجّل حقائق بنيوية، منها: أي المحاور مقسّمة إلى كتل، وأي الأحجام قابلة للتغيير، وأي البلاطات (tiles) حيّة في كل مقطع. ثم تستخلص من هذه الحقائق إعدادًا جاهزًا. تُصنَّف النواة أولًا ضمن إحدى ثلاث عائلات. تتبع أي نواة تتضمن ضرب مصفوفات، مثل hl.dot أو torch.baddbmm، فرع المصفوفات، حتى لو احتوت على عمليات أخرى.

ما أبرز التفاصيل حول ما أظهرته القياسات؟

يؤكد المؤلفون أن الهدف ليس التفوق على ضابط تلقائي يجرّب آلاف الخيارات، بل إضافة نقطة وسطى بين سرعة التشغيل ووقت الانتظار. أُجريت الاختبارات على H100. قورنت تسعة أنواع من الانتباه الخطي على 96 توليفة من النواة والشكل بنوى Triton المكتوبة يدويًا من مكتبة FLA. فتفوّق الإعداد المحسوب عليها، وكان أسرع من إعدادات Helion السابقة دون ضبط تلقائي. وفي ست نوى إنتاجية لـ vLLM (مُكمِّمان FP8، وRMSNorm وSiLU-and-multiply مع التكميم، وتطبيع QK مع RoPE) شمل الاختبار 153 توليفة من النواة والشكل.

ما أبرز التفاصيل حول تلميحات للضابط التلقائي والقيود؟

يمكن للقواعد الاستدلالية نفسها أن تُخرج من 5 إلى 20 إعدادًا متقاربًا لتكون نقاط انطلاق للضابط التلقائي. يجب أن يكون الإعداد الرئيسي جيدًا بذاته، أما الإعدادات الاحتياطية فغايتها أن يبدأ البحث من الخيارات الواعدة. وثمة قيود أيضًا. فالقاعدة الاستدلالية تخمّن قرارات Triton: ما الذي سيذهب إلى السجلات، وما الذي سيمر عبر الذاكرة المشتركة، وما الذي لن يُجسَّد في الذاكرة أصلًا. والتقدير تقريبي. وعندما تحتوي نواة واحدة على عدة عمليات ضرب مصفوفات، قد تتعارض إعداداتها، كأن يكون num_warps واحدًا للجميع.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…