نشر وكلاء الذكاء الاصطناعي: لماذا NVIDIA Dynamo وليس Triton

لدعم نشر وكلاء الذكاء الاصطناعي، أطلقت شركة NVIDIA إطار Dynamo، وهو إطار استدلال مفتوح المصدر صُمِّم خصيصًا لنماذج LLM ونماذج الاستدلال المنطقي والأنظمة الوكيلية.

لماذا لم يعد Triton قادرًا على مجاراة الوكلاء

أصبح Triton Inference Server معيارًا صناعيًا للاستدلال في نماذج شديدة التنوع، من الرؤية الحاسوبية إلى النماذج اللغوية الكبيرة. لكن بنيته صُمِّمت للسيناريو الكلاسيكي: طلب واحد وإجابة واحدة وسلسلة خطوات ثابتة.

أما الأنظمة الوكيلية الحديثة فتختلف جوهريًا. ففي إطار مهمة واحدة، تنفّذ عددًا كبيرًا من الاستدعاءات المتتابعة والمتوازية للنماذج والأدوات. ويمكن للوكيل أن يستدعي النموذج عشرات المرات في ثوانٍ، منتقلًا بين التخطيط والتنفيذ والتحقق من النتيجة. ولم يُصمَّم Triton لهذا النمط، فتحسيناته موجّهة إلى الطلبات المفردة ذات الحمل المتوقَّع.

ما الذي يقدمه NVIDIA Dynamo

صُمِّم Dynamo من الصفر لتلبية متطلبات الاستدلال الوكيلي. والابتكار الأساسي فيه هو التوجيه بحسب KV-cache: يتتبع الإطار توزّع كتل KV على عقد GPU، ويوجّه الطلبات الواردة إلى العقدة التي يوجد فيها الكاش المطلوب بالفعل. وهذا يلغي الحسابات المتكررة عند التعامل مع البادئات المشتركة، مثل موجّهات النظام وسجل المحادثة وسياق المهمة الأساسي.

الفرق الجوهري في النهج:

• Triton: موازنة الحمل بحسب القدرة الحسابية للعقد
• Dynamo: موازنة الحمل بحسب حالة KV-cache مع مراعاة سياق الطلب
• دعم نماذج LLM ونماذج الاستدلال المنطقي وخطوط المعالجة الوكيلية
• مفتوح المصدر ومتاح للنشر على بنية تحتية ذاتية الاستضافة

وفي خطوط المعالجة الوكيلية التي يُستخدم فيها موجّه نظام واحد في مئات الاستدعاءات المتوازية، يحقق ذلك مكسبًا ملموسًا في زمن الاستجابة (latency) وتكلفة الحوسبة.

كيف يغيّر ذلك تصميم الأنظمة الوكيلية

يُظهر التحليل العملي أن Dynamo لا يغيّر الأداء فحسب، بل يغيّر أيضًا القرارات المعمارية عند تصميم الأنظمة الوكيلية. فإذا كانت طبقة الاستدلال في السابق شبه شفافة، تستقبل الطلب وتعيد الإجابة، فإنها تصبح الآن طرفًا فاعلًا في عملية التنسيق (orchestration).

وهذا مهم بوجه خاص للأنظمة التي تعمل فيها الوكلاء بالتوازي: فالتوجيه الصحيح يتيح تجميع الطلبات ذات السياق المتشابه على العقد نفسها، ليتحول KV-cache من مخزن مؤقت سلبي إلى أداة لتحسين خط المعالجة بأكمله.

أما الفرق التي نشرت Triton بالفعل في بيئة الإنتاج (production)، فالانتقال بالنسبة إليها ليس يسيرًا: إذ يقدّم Dynamo نموذج نشر مختلفًا ومنطقًا آخر لإدارة العقد. لكنه يصبح خيارًا منطقيًا للمشاريع الجديدة التي تُبنى فيها السيناريوهات الوكيلية من البداية.

ماذا يعني ذلك

يؤكد ظهور NVIDIA Dynamo تحولًا مهمًا: لم يعد ممكنًا تحسين البنية التحتية للاستدلال للطلبات المفردة وحدها. فالأنظمة الوكيلية تحتاج إلى أطر تدرك حالة الكاش وأنماط الاستدعاءات المتوازية، وقد كان Dynamo من أوائل الاستجابات مفتوحة المصدر لهذا الطلب.

لماذا لا يناسب

Triton Inference Server وكلاء الذكاء الاصطناعي؟ صُمِّم Triton من حيث البنية للسيناريو الكلاسيكي: طلب واحد وإجابة واحدة وسلسلة خطوات ثابتة. أما الأنظمة الوكيلية الحديثة فتتطلب سلاسل استدعاءات متغيرة وتبعيات ديناميكية بين الخطوات، وهو ما يدعمه Dynamo بصورة أصلية.

ما هو NVIDIA Dynamo؟

Dynamo إطار استدلال مفتوح المصدر صُمِّم خصيصًا لنماذج LLM ونماذج الاستدلال المنطقي والأنظمة الوكيلية. وهو ردّ NVIDIA على التغيّر الجذري في أنماط الحمل الذي أحدثه وكلاء الذكاء الاصطناعي في عامي 2025–2026.

لماذا لا يناسب

Triton Inference Server وكلاء الذكاء الاصطناعي الحديثين؟ أصبح Triton معيارًا صناعيًا، لكن بنيته مصمَّمة للسيناريو الكلاسيكي: طلب واحد وإجابة واحدة وسلسلة خطوات ثابتة. أما الأنظمة الوكيلية الحديثة فتختلف تمامًا، إذ تعتمد سلاسل استدعاءات ديناميكية واستدلالًا متعدد الخطوات.