NVIDIA Dynamo مقابل Triton Inference Server: ما الذي تغير لاستدلال الوكلاء

أصدرت NVIDIA Dynamo — إطار عمل استدلالي مفتوح المصدر مصمم خصيصًا لنماذج اللغات الكبيرة والنماذج المنطقية والأنظمة الوكيلة. هذا هو رد الشركة على التحول الأساسي في أنماط الحمل الذي جلبه وكلاء الذكاء الاصطناعي في الفترة 2025–2026.

لماذا لم يعد Triton يتعامل بكفاءة مع الوكلاء

أصبح Triton Inference Server المعيار الصناعي للاستدلال عبر مجموعة واسعة من النماذج — من رؤية الحاسوب إلى النماذج اللغوية الكبيرة. ومع ذلك، تم بناء هندسته المعمارية لسيناريو كلاسيكي: طلب واحد، رد واحد، سلسلة خطوات ثابتة.

الأنظمة الوكيلة الحديثة مختلفة جوهريًا. ضمن مهمة واحدة، تنفذ استدعاءات متسلسلة وموازية عديدة للنماذج والأدوات. يمكن للوكيل استدعاء نموذج عشرات المرات في ثوان قليلة، والتبديل بين التخطيط والتنفيذ والتحقق من النتائج. لم يتم تصميم Triton لهذا: تحسيناته تستهدف الطلبات الفردية ذات أنماط الحمل المتوقعة.

ما الذي يمكن لـ NVIDIA Dynamo القيام به

تم تصميم Dynamo من الصفر لتلبية متطلبات الاستدلال الوكيل. الابتكار الرئيسي هو توجيه ذاكرة التخزين المؤقت KV: يتتبع الإطار توزيع كتل KV عبر عقد GPU ويوجه الطلبات الواردة إلى العقد التي توجد فيها ذاكرة التخزين المؤقت المطلوبة بالفعل. هذا يلغي الحسابات المكررة عند العمل مع البادئات المشتركة — مطالبات النظام وسجل المحادثة والسياق الأساسي للمهمة.

الفرق الأساسي في النهج:

• Triton: موازنة الحمل بناءً على القوة الحسابية للعقد
• Dynamo: موازنة الحمل بناءً على حالة ذاكرة التخزين المؤقت KV مع مراعاة سياق الطلب
• دعم نماذج اللغات الكبيرة والنماذج المنطقية وخطوط أنابيب الوكلاء
• كود مفتوح المصدر، متاح للنشر المستضاف ذاتيًا

بالنسبة لخطوط أنابيب الوكلاء حيث يتم استخدام مطالبة نظام واحدة في مئات الاستدعاءات الموازية، يوفر هذا مكاسب ملموسة في الكمون وتكلفة الحوسبة.

كيف يغير هذا تصميم الأنظمة الوكيلة

يُظهر التحليل العملي: يغير Dynamo ليس فقط الأداء، بل أيضًا القرارات المعمارية عند تصميم الأنظمة الوكيلة. إذا كانت طبقة الاستدلال في السابق شفافة فعليًا — تستقبل طلبًا وترد ردًا — فإنها الآن تصبح مشاركًا نشطًا في التنسيق.

هذا مهم بشكل خاص للأنظمة حيث تعمل الوكلاء بالتوازي: يسمح التوجيه الصحيح بتجميع الطلبات ذات السياق المماثل على نفس العقد، مما يحول ذاكرة التخزين المؤقت KV من مخزن مؤقت سلبي إلى أداة لتحسين خط الأنابيب بالكامل.

بالنسبة للفريق الذي ينشر Triton بالفعل في الإنتاج، الانتقال ليس تافهًا: يوفر Dynamo نموذج نشر مختلفًا ومنطق إدارة عقدة مختلفًا. ومع ذلك، بالنسبة للمشاريع الجديدة حيث يتم بناء سيناريوهات الوكيل من الصفر، يصبح الإطار الخيار المنطقي.

ماذا يعني هذا

يشير ظهور NVIDIA Dynamo إلى تحول مهم: لا يمكن تحسين بنية الاستدلال بعد الآن فقط للطلبات الفردية. تتطلب الأنظمة الوكيلة إطارات عمل تدرك حالة الذاكرة المؤقتة وأنماط الاستدعاءات الموازية — وأصبح Dynamo واحدًا من أوائل الردود مفتوحة المصدر على هذا الطلب.