BerriAI تطلق LiteLLM Agent Platform لتشغيل الوكلاء في بيئات الإنتاج

تشغيل وكيل ذكاء اصطناعي في نص برمجي محلي أمر بسيط. أما تشغيله بموثوقية في بيئة الإنتاج (production)، ومزامنته عبر عمليات إعادة التشغيل، وتوفير بيئات معزولة لسياقات مختلفة، فمسألة مختلفة تمامًا.

المشكلة في بيئة الإنتاج

حين يعمل وكيل الذكاء الاصطناعي على جهاز المطوّر فقط، يبدو كل شيء بسيطًا. لكن عند الانتقال إلى الإنتاج تبدأ المشكلات فورًا: لا يوجد حفظ للجلسات عبر عمليات إعادة تشغيل نظام التشغيل، ولا عزل للسياقات بين المستخدمين المختلفين، كما يصعب إدارة الوكلاء ضمن الفرق، وتغيب المراقبة (monitoring) المدمجة.

وكل شركة حاولت تشغيل وكيل في الإنتاج بدأت بكتابة بنيتها التحتية الخاصة. وقد أصدرت BerriAI، الشركة المطوّرة لبوابة LiteLLM AI Gateway الشهيرة، حلًا لهذه المشكلة: LiteLLM Agent Platform. وهي طبقة بنية تحتية ذاتية الاستضافة تعتمد على Kubernetes، وتؤتمت كل ما يلزم.

ما الذي تتضمنه LiteLLM Agent Platform

توفّر المنصة المكونات الأساسية للوكلاء الجاهزين للإنتاج:

• صناديق رمل معزولة لكل وكيل أو سياق
• إدارة الجلسات الدائمة (persistent session management) — حفظ الحالة عبر عمليات إعادة التشغيل
• إدارة الفرق والتحكم في الوصول
• مراقبة (monitoring) وتسجيل (logging) وتتبّع (tracing) مدمجة
• نشر ذاتي الاستضافة على Kubernetes
• واجهة API لإدارة دورة حياة الوكيل

تحدّدون مواصفات الوكيل، وتنشئ المنصة له بيئته وتتولى إدارة كل ما عدا ذلك.

الفرق عن LiteLLM Gateway

من المهم عدم الخلط بين LiteLLM Agent Platform وLiteLLM AI Gateway (من المطوّر نفسه). تتولى Gateway إدارة الطلبات الموجّهة إلى نماذج LLM المختلفة (OpenAI وAnthropic وCohere والنماذج المحلية)، وتعالج مشكلة توجيه الطلبات وتخزينها المؤقت. أما Agent Platform فهي طبقة أعلى: بنية تحتية لدورة الحياة الكاملة للوكيل.

يمكن أن تكون Gateway جزءًا من الحزمة التقنية (stack)، لكن Platform تتولى كل تعقيدات البيئة.

ماذا يعني ذلك

عمليًا، تزيل المنصة فئة كاملة من المشكلات أمام الفرق التي تريد تشغيل وكلاء الذكاء الاصطناعي في الإنتاج. فلا حاجة إلى كتابة آليات حفظ الجلسات (session persistence) وعزل السياقات والمراقبة بأنفسهم.

وتتيح الشيفرة المفتوحة المصدر للشركات دمج المنصة في حزمتها التقنية دون الارتهان لمزوّد بعينه (vendor lock-in). ومن المفترض أن يُسرّع ذلك انتقال الوكلاء من مرحلة إثبات المفهوم (POC) إلى الإنتاج.