NVIDIA Vera Rubin: كيف سيتمكن المطورون من توسيع نطاق الذكاء الاصطناعي الوكيلي دون تأخير

قدّمت NVIDIA منصة Vera Rubin، التي تعالج المشكلة الرئيسية في توسيع نطاق الذكاء الاصطناعي الوكيلي، أي زمن التأخير غير المتوقع في الجلسات متعددة الخطوات.

لماذا يصعب توسيع نطاق الذكاء الاصطناعي الوكيلي

ينجح التوسيع المعتاد للنماذج في المعالجة بالدفعات: تمرّر عددًا كبيرًا من النصوص وتحصل على عدد كبير من الإجابات. أما الذكاء الاصطناعي الوكيلي فيعمل بطريقة مختلفة. فالوكيل يتخذ قرارًا، وينفّذ إجراءً، ثم يطّلع على النتيجة، ويتخذ القرار التالي. وهذا يعني مئات الطلبات إلى النموذج في جلسة واحدة، كل منها بحجم دفعة صغير ومتطلبات صارمة جدًا للسرعة.

ولأن مسار الوكيل لا يمكن التنبؤ به مسبقًا (فالإجراء الذي سيختاره الوكيل غير معروف)، يصعب تصريف المعالجة وتحسينها. وتتراكم التأخيرات، فيتحول السياق البالغ 400K رمز إلى عنق زجاجة.

الحل الثلاثي في Vera Rubin

بدلًا من النهج الشامل، دمجت NVIDIA في المنصة ثلاث تقنيات تعمل معًا:

• وصلات كابلات مباشرة بين الشرائح — كل LPU مرتبط بـ 96 وحدة أخرى بسرعة 112 غيغابت في الثانية، ما يوفر 640 تيرابايت في الثانية من عرض النطاق الترددي لكل رف دون مبدّلات
• المصرّف يخطط لجميع عمليات نقل البيانات مسبقًا — فبدلًا من أن يقرر النظام أثناء التنفيذ متى وإلى أين تُرسل البيانات، يحسب المصرّف مسبقًا كل بِت من المعلومات عبر الشبكة
• مزامنة آلاف الشرائح المستقلة — يوحّد النظام ساعات مسرّعات LPU لتعمل الشبكة بزمن تأخير معروف ويمكن التنبؤ به

التسريع الهجين: NVIDIA + Groq

تعتمد المنصة تقسيمًا للعمل بين وحدات GPU والمسرّعات المتخصصة. يعالج Vera Rubin NVL72 طبقات الانتباه (attention)، التي تحتاج إلى عرض نطاق ترددي مرتفع، بينما يتولى Groq 3 LPX طبقات FFN، التي تتطلب زمن تأخير منخفضًا في التوليد المتسلسل. ويجري تزامن KV-cache بين الطرفين رمزًا واحدًا في كل مرة. قد يبدو ذلك معقدًا، لكن النتيجة أن النظام يعمل دون مفاضلة بين السرعة والجودة.

ما الذي تحقق

• 400 رمز في الثانية على نماذج MoE بحجم 1 تريليون معامل وسياق 400K
• 35x إنتاجية أعلى لكل واط مقارنة بـ GB200 NVL72
• زمن تأخير يمكن التنبؤ به حتى عند عمل عدة وكلاء في وقت واحد

ماذا يعني ذلك

بالنسبة إلى مطوري وكلاء الذكاء الاصطناعي، يعني ذلك أن زمن التأخير وقابلية التوسع لم يعودا خصمين. فمنصة Vera Rubin تتيح تشغيل نماذج كبيرة (بحجم تريليون معامل) وتشغيل وكلاء معقدين عليها دون التضحية بسرعة الاستجابة. عمليًا، يعني ذلك أن المساعدين الشخصيين وأدوات الأتمتة والوكلاء العاملين سيتمكنون من العمل بسرعة حتى مع السياق الطويل.