Together AI تحقق تسريعًا بنسبة 90% في التدريب على معالجات NVIDIA Blackwell

أعلنت Together AI عن إتاحة فورية لعناقيد GPU المُسرَّعة بمعالجات NVIDIA Blackwell، وقدّمت حزمة تحسين خاصة بها مصمّمة خصيصًا لهذه البنية الجديدة من عتاد الشبكات العصبية.

النتائج: تسريع بنسبة 90% مقارنة بـ H100

في اختبار نموذج Llama بحجم 70 مليار معامل، حقق فريق Together AI معدل 15,264 رمزًا في الثانية على GPU واحد. ويقارب هذا الرقم ضعف النتيجة المسجّلة على الجيل السابق NVIDIA HGX H100، الذي عالج 8,080 رمزًا في الثانية بإعدادات محسّنة.

وتحققت هذه النتائج بفضل نسخة محسّنة من TorchTitan بالاقتران مع Together Kernel Collection، وهي مجموعة النوى المُحسّنة التي طوّرتها الشركة.

وللتوضيح، فإن القياس أُجري بدقة BF16 (Brain Float 16، وهي صيغة تجمع بين السرعة والدقة وتُعدّ حاليًا المعيار في تدريب النماذج الكبيرة). وبحسب الشركة، ستواصل السرعة الارتفاع مع تحسينات إضافية لا تزال قيد التطوير.

كيف يعمل ذلك: تحسين على مستوى البنية

جاء التسريع نتيجة تحسين عميق يستهدف بنية GPU المحددة. وطوّرت Together AI عددًا من المكوّنات التي تستفيد بالكامل من إمكانات NVIDIA Blackwell:

• نوى FP8 مخصصة تعمل مع الجيل الخامس من NVIDIA Tensor Cores (وحدات حوسبة عالية الأداء)
• نوى attention تعمل أسرع بـ 1,8 مرة من FlashAttention-3 (المعيار الحالي لآلية الانتباه المحسّنة)
• تكامل مع مكتبة ThunderKittens المفتوحة المصدر للاستفادة الكاملة من الذاكرة المخصصة على الشريحة
• خوارزميات تدريب موزّع مكيّفة مع طوبولوجيا شبكة Quantum-2 InfiniBand

وقال تري داو، كبير العلماء في Together AI ومبتكر FlashAttention: «نحن نحسّن كل طبقة من حزمة الذكاء الاصطناعي لنستفيد بالكامل من إنجازات بنية GPU. وتعجبنا بوجه خاص وحدات Tensor Cores الجديدة وصيغة microscaling لتسريع الاستدلال. إن الجمع بين Together Kernel Collection وNVIDIA Blackwell يعيد تعريف معايير التدريب والاستدلال الفعّالين على نطاق واسع».

برنامج الاختبار والتوسّع

ضمن برنامج إطلاق حصري، تدعو Together AI ثماني شركات رائدة في مجال الذكاء الاصطناعي إلى الحصول على وصول مباشر إلى عقد HGX B200 مخصصة، مع إمكانية التعاون مع مهندسي NVIDIA وباحثي Together AI. والهدف هو تسريع أحمال العمل بشكل مشترك واكتشاف مزيد من التحسينات.

وبالتوازي، تنشر الشركة عشرات الآلاف من خوادم HGX B200 وحلولًا متكاملة على مستوى الرفوف من طراز GB200 NVL72 مع شبكات NVIDIA Quantum-2 InfiniBand. ويشمل ذلك العنقود المعلن سابقًا الذي يضم أكثر من 36,000 GPU لتدريب نماذج الجيل الجديد والوكلاء.

ماذا يعني ذلك

بالنسبة لشركات الذكاء الاصطناعي، النتيجة عملية: سيصبح تدريب النماذج الكبيرة أرخص وأسرع. ومع زيادة السرعة بنسبة 90%، فإن النماذج التي كانت تتطلب أسابيع من التدريب يمكن الآن تدريبها في أيام. ويخفض هذا النفقات الرأسمالية على الحوسبة بشكل ملموس ويسرّع دورة التجريب على البنى الجديدة.

أما بالنسبة للسوق عمومًا، فهي إشارة إلى أن حقبة خدمات GPU العامة تنحسر. فشركات الذكاء الاصطناعي التي تكتب نوى مُحسّنة خاصة بها لبنية معينة (مثل Together AI مع ThunderKittens) تكتسب أفضلية تنافسية في السرعة والتكلفة. وينعكس ذلك مباشرة على تكلفة التدريب، وفي النهاية على أسعار خدمات الذكاء الاصطناعي للمستخدمين النهائيين.