Groq أولى الجهات التي تنشر NVIDIA Groq 3 LPX: 3400 رمز في الثانية على Gemma 4 31B

ستصبح Groq من أوائل المشغّلين لمسرّع NVIDIA Groq 3 LPX، الذي يعزز توليد الرموز (التوكنات) على رفوف Vera Rubin NVL72. وستنشر الشركة المنصتين معًا في سحابة الاستدلال الخاصة بها GroqCloud، بينما تتولى Dell Technologies التوريد والتكامل. وأبرز رقم في الاختبارات التي نشرتها NVIDIA هو 3400 رمز خرج في الثانية على نموذج الوكلاء المفتوح Gemma 4 31B عند سياق طوله 100 ألف رمز. وقد أُجري القياس ضمن اختبار Artificial Analysis.

ما الذي أعلنته NVIDIA

يُضاف LPX إلى Vera Rubin NVL72 بوصفه طبقة مستقلة لفك التشفير (decoding). ويرفع سرعة إخراج الرموز في الحالات التي يكون فيها السياق طويلًا ويُنفّذ الوكيل فيها خطوات متتابعة كثيرة. وفيما يلي أبرز المؤشرات المعلنة:

• 3400 رمز خرج في الثانية على Gemma 4 31B عند سياق 100K رمز؛
• تفاعلية أعلى بأربعة أضعاف في أحمال الوكلاء الحساسة للتأخير مقارنة بأقرب منصة بديلة؛
• مهام الوكلاء، مثل البرمجة، تُنجَز في دقائق بدل ساعات.

يدل اسم المنتج على أن بنية LPU، التي عملت Groq على تطويرها لسنوات، باتت تصدر الآن تحت علامة NVIDIA. ويلخّص ديون هاريس من NVIDIA المنطق على النحو التالي: يحتاج الذكاء الاصطناعي القائم على الوكلاء إلى مزيد من الرموز، وسرعة استجابة عالية، وتكلفة منخفضة عند التوسع. وتتكفل Vera Rubin بالإنتاجية، بينما يتكفل Groq 3 LPX بخفض التأخير.

لماذا كانت Groq الأولى

حجة الشركة أنه لا يوجد فريق آخر يملك خبرة في تشغيل LPU في بيئة الإنتاج على نطاق كهذا. وبحسب بياناتها، يعمل على GroqCloud أكثر من ستة ملايين مطوّر، وشركات من قائمة Fortune 500، وآلاف الشركات الأصيلة في الذكاء الاصطناعي (AI-native). وتولّد المنصة تريليونات الرموز أسبوعيًا في مراكز بيانات في أمريكا الشمالية وأوروبا والشرق الأوسط ومنطقة آسيا والمحيط الهادئ.

وفي أغسطس حصلت Groq على صفة NVIDIA Cloud Partner. ويعني ذلك أنها تصمم عناقيد الحوسبة وتنشرها وتشغّلها وفق البنية المرجعية ومعايير التشغيل الخاصة بـ NVIDIA. ويأتي الإطلاق الجديد امتدادًا لهذا النهج. أما Dell، بحسب نائب الرئيس Arunkumar Narayanan، فتغطي البنية التحتية المتكاملة وسلاسل التوريد العالمية. ويصف المدير التقني لدى Groq، Sinclair Schuller، المنصة بأنها فئة جديدة من مسرّعات الاستدلال التفاعلية.

ما الذي لا يتضمنه الإعلان

لا يذكر البيان الصحفي أسعار الرمز الواحد، ولا مواعيد تشغيل القدرات، ولا عدد الرفوف المنشورة، ولا المناطق التي سيظهر فيها LPX أولًا. كما لم يُكشف عن «أقرب منصة بديلة» التي تُقارَن بها الزيادة بأربعة أضعاف. وقد جاء رقم 3400 رمز في الثانية على نموذج يضم 31 مليار معامل. وقد تختلف النتيجة مع النماذج المغلقة الرائدة. فضلًا عن ذلك، هذه بيانات صادرة عن المورّد، وليست تحققًا مستقلًا على أحمال عمل فعلية.

الخلاصة العملية للفرق

إذا كنتم تبنون وكلاء، فاحسبوا التأخير على الدورة كاملة، لا على إجابة واحدة. فوكيل البرمجة يُجري عشرات الاستدعاءات المتتالية، وتنعكس سرعة فك التشفير على السياق الطويل في الزمن الإجمالي للمهمة. وإلى أن تتوفر أسعار ومواعيد معلنة، من المنطقي:

• قياس حصة الزمن التي يستغرقها توليد الرموز تحديدًا، لا استدعاءات الأدوات والانتظار، على سيناريوهاتكم الخاصة؛
• تشغيل المهام عند سياق من 50–100K رمز، حيث يبلغ المكسب ذروته بحسب ما تذكره NVIDIA؛
• طلب الوصول إلى الاختبار المبكر من Groq، مع شروط تكلفة الرمز؛
• عدم ربط البنية المعمارية بمزوّد واحد: فالنماذج المفتوحة مثل Gemma 4 تتيح مقارنة السحابات على الحمل نفسه.