Together AI: GPT-5.5 وGemini وOpus عاجزة عن كتابة نوى سريعة لوحدات معالجة رسومية متعددة

نشرت Together AI معيار ParallelKernelBench (اختصارًا PKB)، وهو أول معيار مفتوح لتقييم قدرة النماذج اللغوية على توليد نوى CUDA فعّالة لبيئات متعددة وحدات GPU. اختبر الباحثون أكثر من 40 نموذجًا على 87 مهمة حقيقية، وتبيّن لهم أن أفضل نماذج frontier تحلّ أقل من ثلث المهام حلًّا صحيحًا، وأن قلة منها فقط تتفوق فعليًا على التطبيق الساذج في PyTorch.

لماذا تُعدّ بيئات GPU المتعددة أصعب؟

تطورت قدرة النماذج اللغوية على كتابة الشيفرة لوحدة GPU واحدة بصورة جيدة، ومعظم معايير برمجة GPU الحالية تقتصر على هذا السيناريو. لكن أنظمة الذكاء الاصطناعي الإنتاجية الحقيقية تجاوزت هذا الحد منذ وقت طويل، فهي تعمل على عشرات ومئات وحدات GPU في آن واحد. وفي مثل هذه التكوينات لا تعود القدرة الحسابية عنق الزجاجة الرئيسي، بل يصبح الاتصال بين الأجهزة هو العائق.

وبحسب بيانات Together AI، تستهلك تكاليف نقل البيانات بين وحدات GPU أكثر من 20% من زمن الاستجابة في الاستدلال (inference)، وستتسع هذه الفجوة لأن قدرة الرقائق تواصل التقدم على عرض النطاق الترددي للربط بين الرقائق. ويختلف توليد الشيفرة لعدة وحدات GPU جوهريًا عن وحدة واحدة لثلاثة أسباب:

• انفجار تركيبي في الخيارات — يجب الاختيار بين التوازي التنسيري (tensor) والسياقي والخبراء والبيانات وغيرها من أنواع التوازي، ولكل نوع منها نمط اتصال خاص به
• نموذج أداء مختلف — بدلًا من roofline الحسابي المحلي، يصبح عرض النطاق الترددي للربط بين الرقائق هو القيد الرئيسي
• خيار معماري جديد — كيفية نقل البيانات فعليًا بين وحدات GPU: عبر copy engine أو TMA أو SM load/store أو NVLS، وهل يجدر دمج نقل البيانات مع العمليات الحسابية

كيف صُمّم المعيار

يضم PKB 87 مهمة مأخوذة من قواعد شيفرة حقيقية: Megatron-LM وDeepSpeed وDeepEP وTensorRT-LLM وNeMo-RL، إضافة إلى أحمال عمل موزعة غير تقليدية: التوجيه في الشبكات العصبية الرسومية، وتحويلات FFT الموزعة، وGaussian splatting. ويغطي هذا الاختيار جميع الطرق الرئيسية لتجزئة العمل (sharding): التجزئة التنسيرية والسياقية وتجزئة البيانات والخبراء والتسلسلية وFSDP/ZeRO.

تبدأ كل مهمة بتطبيق قياسي على PyTorch + NCCL ووصف لطوبولوجيا العتاد. وعلى النموذج أن يستبدل به نواة CUDA خاصة به تنقل البيانات مباشرة بين وحدات GPU عبر NVLink باستخدام الذاكرة المتماثلة، متجاوزةً حزمة العمليات الجماعية القياسية.

يجري التقييم وفق ثلاثة معايير: صحة النتيجة، والتسريع بحسب زمن الجدار (wall-clock)، وبلوغ communication roofline، أي الحد النظري لعرض النطاق الترددي للربط.

النتائج والانتصارات غير المتوقعة

اختبرت Together AI أكثر من 40 نموذجًا، بينها GPT-5.5 وGemini 3 Pro وOpus 4.7، وهي النسخ الرائدة الحالية من OpenAI وGoogle وAnthropic. وجاءت النتائج مخيبة للجميع بالقدر نفسه:

• حلّ أفضل نموذج أقل من ثلث المهام الـ87 حلًّا صحيحًا
• تفوّق أقل من ربع الحلول الصحيحة على التطبيق الأساسي الساذج على PyTorch + NCCL
• تركزت الإخفاقات الرئيسية في إدارة الاتصال بين وحدات GPU واختيار الطريقة الصحيحة لنقل البيانات

ومع ذلك، تبيّن أن بعض الحلول قوية على نحو مفاجئ، إذ تفوّقت نوى مولَّدة بعينها على جميع التطبيقات المتاحة للعموم. وتُعدّ حالة التدريب بـGRPO في NVIDIA NeMo-RL لافتة بصورة خاصة، فلم تكن لهذه العملية حتى الآن شيفرة عامة محسَّنة، وكتبها نموذج لغوي قبل أن يفعل البشر ذلك.

«تبيّن أن عدة نوى مولَّدة أسرع من كل ما هو متاح في المصادر المفتوحة»،

من التقرير التقني لـParallelKernelBench.

ماذا يعني ذلك

يرسم PKB الحدّ التالي في تطور البرمجة بالذكاء الاصطناعي: الانتقال من وحدة GPU منفردة إلى الأنظمة الموزعة متعددة وحدات GPU. لا تزال نماذج frontier عاجزة عن ذلك حتى الآن، لكن حالات النجاح النادرة تلمّح إلى أن التقدم ممكن إذا جُمعت بيانات تدريب متخصصة بصورة مقصودة. وبالنسبة للفرق التي تحسّن الاستدلال والتدريب على عناقيد GPU، يمثّل هذا مؤشرًا مهمًا: الأداة في طور النضج، لكنها ليست جاهزة بعد للاستخدام الواسع.