AgentOps: النظام التشغيلي لوكلاء الذكاء الاصطناعي في الإنتاج

تم نشر مقالة مخصصة ل AgentOps — وهي نظام تشغيل جديد لتشغيل وكلاء الذكاء الاصطناعي في الإنتاج — على مدونة AWS Machine Learning. يصف المؤلفون المشكلة الأساسية التي تواجهها الصناعة: أنظمة الذكاء الاصطناعي القائمة على الوكلاء تتخذ قرارات غير متوقعة، وتكاليفها يمكن أن تزداد بشكل حاد وغير متوقع، وتصحيح الأخطاء غير الحتمية يثبت أنه عملي تقريبا مستحيل باستخدام نهج DevOps التقليدية.

كيف يختلف الوكلاء عن البرمجيات العادية

البرامج الكلاسيكية، حتى المعقدة منها، تنفذ سلسلة محددة مسبقا وقابلة للتنبؤ من الخطوات: المدخل المماثل ينتج دائما تقريبا المخرجات نفسها، والأخطاء عادة ما تكون حتمية وقابلة للتكرار. تعمل أنظمة الذكاء الاصطناعي القائمة على الوكلاء بشكل مختلف — كما يصيغ مؤلفو AWS، فإنها "تفكر وتتكيف وتتخذ قرارات مستقلة" بدلاً من مجرد تنفيذ سير عمل محدد مسبقا. هذا يعني أن نفس طلب المستخدم يمكن أن يؤدي الوكيل إلى سلاسل مختلفة من استدعاءات الأدوات، قرارات وسيطة مختلفة، وبالتالي تكاليف تنفيذ نهائية مختلفة — مما يجعل طرق المراقبة والتصحيح التقليدية من DevOps غير مناسبة بدون تكيف.

سيناريو نموذجي يوضح المشكلة هو وكيل تم تعيينه لمهمة متعددة الخطوات يبدأ في استدعاء الأداة نفسها بشكل متكرر في محاولة لتصحيح خطأ، مما يراكم التكاليف على استدعاءات النموذج وواجهات برمجة التطبيقات الخارجية قبل أن يلاحظ أحد أعضاء الفريق شذوذا في الفواتير. بدون مراقبة متخصصة، يتم اكتشاف مثل هذه الحوادث بعد وقوعها — من فاتورة السحابة بدلاً من اللحظة التي تنشأ فيها المشكلة، مما يجعل إنشاء ممارسات AgentOps ليس اختياريا بل ضروريا لأي نشر جاد للوكلاء في الإنتاج.

• المصطلح — AgentOps، نظام تشغيل لنشر وإدارة وتحسين وكلاء الذكاء الاصطناعي بشكل مستمر في الإنتاج.
• المصدر — مدونة AWS Machine Learning.
• المشكلة الأساسية رقم 1 — عدم القدرة على التنبؤ بقرارات الوكيل.
• المشكلة الأساسية رقم 2 — النمو غير المنضبط لتكاليف تنفيذ المهام.
• المشكلة الأساسية رقم 3 — صعوبة تصحيح الأخطاء غير الحتمية.

كيف يقترح AgentOps إبقاء الوكلاء تحت السيطرة

وفقا لمنطق المؤلفين، لا يجب التخلي عن ممارسات DevOps عند تطبيقها على الوكلاء بل إعادة صياغتها: بدلاً من مراقبة المقاييس الثابتة للبنية التحتية (حمل وحدة المعالجة المركزية، وقت استجابة الخادم)، يجب أن تتتبع الفرق المؤشرات السلوكية للوكيل نفسه — ما هي الأدوات المستدعاة وبأي ترتيب، وكم عدد الرموز وبالتالي مقدار المال الذي ينفقه على مهمة معينة، وأين حدث الانحراف عن النتيجة المتوقعة في سلسلة الاستدلال. يتطلب هذا قياس بيانات متخصصة وتتبع قرارات الوكيل على مستوى خطوات الاستدلال الفردية بدلاً من مستوى الإجابة النهائية فقط للمستخدم.

بخلاف مراقبة التكاليف وتتبع القرارات، يذكر مؤلفو AWS أيضا الحاجة إلى التقييم المنهجي لجودة الوكيل — ما يسمى بأطر التقييم التي تشغل الوكيل من خلال مجموعة من سيناريوهات الاختبار قبل كل تحديث وتسجل ما إذا كانت جودة الإجابات قد انخفضت أو ما إذا زادت تكرار استدعاءات الأدوات الخاطئة. بدون مثل هذه الممارسة، تواجه الفرق خطر التعرف على انخفاض جودة الوكيل بعد وقوعه — من شكاوى المستخدمين بدلاً من الاختبار المنضبط.

في الواقع العملي، يعني هذا ظهور أدوات جديدة على تقاطع DevOps والعمل مع الذكاء الاصطناعي — تتبع سلاسل استدعاءات الوكلاء، والوحات معلومات بتكاليف تنفيذ المهام في الوقت الفعلي، والحراس الآليين الذين يوقفون الوكيل عند تجاوز حدود الميزانية أو المخاطر المحددة قبل أن يتمكن الخطأ من التوسع إلى حادث الإنتاج.

لماذا يصبح هذا تخصصا منفصلا الآن

ظهور مصطلح منفصل للممارسة التشغيلية حول وكلاء الذكاء الاصطناعي يعكس تحولا أوسع في الصناعة: إذا كان الغالبية العظمى من نشر الذكاء الاصطناعي في الإنتاج مؤخرا يصل إلى استدعاءات نموذج بسيطة نسبيا مع أجهزة استشعار ثابتة، فالآن المزيد والمزيد من الشركات تبني أنظمة حيث يخطط الوكيل بشكل مستقل سلسلة من الإجراءات، واستدعاء واجهات برمجة التطبيقات الخارجية واتخاذ قرارات بدون إشراف بشري خطوة بخطوة في كل مرحلة. إنه بالضبط في هذا الانتقال — من خطوط أنابيب ML التي يمكن التنبؤ بها إلى أنظمة الوكلاء المستقلة — أن الممارسات القديمة من MLOps و DevOps تتوقف عن تغطية جميع المخاطر، و AgentOps، وفقا لتصميم مؤلفي AWS، يجب أن تحتل هذا المكان كمرحلة التطور المنطقية التالية في الممارسات التشغيلية للذكاء الاصطناعي.

بالنسبة للفرق التي مرت بالفعل بانتقال مماثل من تطوير البرامج الكلاسيكي إلى MLOps عند تنفيذ نماذج التعلم الآلي، فإن الانتقال إلى AgentOps قد يبدو مألوفا هيكليا لكن بشكل ملحوظ أكثر تعقيدا من حيث الجوهر — لأن كائن المراقبة يصبح ليس نموذجا ثابتا مع سلوك ثابت بل نظاما يمكن أن يتصرف بشكل مختلف في كل تشغيل.