Nvidia تكشف عن Groq 3: الشركة تراهن على شرائح مستقلة لاستدلال الذكاء الاصطناعي

عرضت Nvidia شريحة Groq 3، وهي أول شريحة لدى الشركة مصممة تحديدًا لاستدلال الذكاء الاصطناعي، لا لتدريب النماذج. وهذه إشارة مهمة: فالسوق يتحول من سباق بناء نماذج أكبر وأكبر إلى سباق يدور حول مدى سرعة هذه النماذج وانخفاض كلفتها في الرد على المستخدمين.

لماذا تغيّر Nvidia مسارها

في مؤتمر GTC، أعلن رئيس Nvidia عن عائلة Vera Rubin، وعن فئة مستقلة من المعالجات مخصصة لتشغيل النماذج. وتعتمد Groq 3 LPU على تقنية مرخّصة من شركة Groq الناشئة، التي أبرمت معها Nvidia صفقة في أواخر العام الماضي. وتكشف حقيقة أن المدة بين الترخيص والإعلان عن المنتج بلغت نحو شهرين ونصف الشهر عن مدى سرعة نمو الطلب على الاستدلال في مراكز البيانات.

«أصبح الذكاء الاصطناعي أخيرًا قادرًا على أداء عمل مفيد، وقد بلغت نقطة

التحول في الاستدلال بالفعل».

يعالج التدريب والاستدلال مهمتين مختلفتين، ولذلك يحتاج كل منهما إلى عتاد مختلف. ففي أثناء التدريب، يعالج النظام لأسابيع مجموعات ضخمة من البيانات ويحدّث أوزان النموذج. أما في الاستدلال، فيحدث كل شيء لحظة طلب المستخدم، وقد تتضمن الجلسة الواحدة في نماذج الاستدلال المنطقي (reasoning) عددًا كبيرًا من التمريرات الداخلية قبل أن يرى المستخدم الإجابة. وما يهم هنا ليس الحد الأقصى من FLOPS، بل زمن الاستجابة وثبات تدفق البيانات وإمكانية التنبؤ بزمن توليد الرموز.

كيف صُمّمت Groq 3

يختلف نهج Groq عن مخطط GPU المعتاد. فبدلًا من الاعتماد على ذاكرة HBM عالية السرعة منفصلة بجوار المعالج الرسومي، تستخدم الشريحة ذاكرة SRAM مدمجة مباشرة في وحدة الحوسبة. وهذا يبسّط حركة البيانات: إذ تمر عبر المعالج بشكل خطي، دون رحلات زائدة إلى الخارج والعودة. وبهذا تضحّي البنية بالتعددية في الاستخدام، لكنها تتفوق حيث تُطلب أسرع استجابة ممكنة. وفي الاستدلال، حيث يولّد النموذج الرموز بالتتابع بدلًا من حساب كل شيء في دفعة واحدة كبيرة، يكون هذا التصميم مفيدًا بصورة خاصة.

ويظهر الفرق أيضًا في المواصفات. فما زالت Rubin GPU آلة للحوسبة الثقيلة والنماذج الكبيرة، بينما صُمّمت Groq 3 لهدف مختلف هو أدنى زمن استجابة في مرحلة decode، أي حين تبدأ الإجابة بالتشكل رمزًا تلو الآخر. وفي الحوسبة العامة وحجم الذاكرة، تبدو وحدة LPU أقل بكثير، لكنها تتفوق في عرض النطاق الترددي وتناسب مرحلة الإخراج النهائي بصورة أفضل. ولهذا لا تستبدل Nvidia وحدات GPU بفئة جديدة من الشرائح، بل تكمّلها بمسرّع متخصص.

• تملك Rubin GPU ذاكرة HBM بسعة 288 غيغابايت، بينما تملك Groq 3 نحو 500 ميغابايت من ذاكرة SRAM المدمجة
• تصل Rubin إلى 50 بيتافلوب في الحوسبة بدقة 4 بت، وتصل Groq 3 إلى 1,2 بيتافلوب بدقة 8 بت
• في عرض نطاق الذاكرة، تبلغ Groq 3 نحو 150 تيرابايت/ثانية مقابل 22 تيرابايت/ثانية لدى Rubin
• تركّز Groq 3 على التوليد السريع للرموز بزمن استجابة منخفض، لا على تعدد الاستخدامات

السوق يتجه نحو الاستدلال

شهدت السنتان الأخيرتان طفرة حقيقية في الشركات الناشئة المتخصصة بشرائح الاستدلال. فتراهن D-Matrix على الحوسبة الرقمية داخل الذاكرة (digital in-memory compute)، وتراهن Etched على شرائح ASIC مخصصة للمحوّلات (Transformers)، وتراهن RainAI على الدوائر العصبية الشكلية (neuromorphic)، وتراهن EnCharge على الحوسبة التناظرية داخل الذاكرة (analog in-memory compute)، وتراهن FuriosaAI على بنية مصممة لعمليات التنسورات. وبإعلانها هذا، لم تضف Nvidia منتجًا آخر فحسب، بل أكدت عمليًا أن هذا المجال أكبر من أن يُتجاهل داخل إمبراطورية GPU.

ولا يقتصر الرهان على شريحة مستقلة، بل يشمل أيضًا تجزئة الاستدلال إلى أجزاء. فقد عرضت AWS مؤخرًا نظامًا يجمع Trainium وCerebras CS-3، تُنفَّذ فيه مرحلتا prefill وdecode على نوعين مختلفين من العتاد. وتسير Nvidia في الاتجاه نفسه: إذ ستضم وحدة Groq 3 LPX الجديدة ثماني وحدات LPU ونظام Vera Rubin. وستبقى مرحلة prefill والجزء الأثقل من decode على Rubin، بينما تُنفَّذ مرحلة الإخراج النهائية على Groq 3. ويتيح هذا الهجين الاستفادة من نقاط قوة كل معالج بدلًا من الاكتفاء بحل وسط.

ماذا يعني هذا

الخبر الأهم ليس أن Nvidia أطلقت مسرّعًا آخر، بل أن أكبر لاعب في السوق اعترف علنًا بأن الاستدلال فئة مستقلة من الحوسبة. وهذا خبر جيد لمنتجات الذكاء الاصطناعي: فإذا أمكن لهذه البنى أن تتوسع فعلًا في بيئات الإنتاج، فستصبح ردود النماذج أسرع، وستغدو اقتصاديات الاستخدام الواسع أكثر قابلية للتنبؤ. وسيدور الفصل التالي من المنافسة في الذكاء الاصطناعي حول جودة النماذج، وكذلك حول كلفة مليون إجابة مفيدة.