لماذا يجب أن تتطور البنية التحتية للذكاء الاصطناعي لتناسب الوكلاء — أكشات بوبنا، المدير التقني لشركة Modal

عاد أكشات بوبنا، المدير التقني لمنصة Modal السحابية، إلى بودكاست Latent Space بعد عامين لمناقشة سبب عدم ملاءمة النموذج السائد في البنية التحتية السحابية لعصر وكلاء الذكاء الاصطناعي.

من الدوال عديمة الحالة إلى الوكلاء طويلي العمر

بُنيت البنية التحتية السحابية خلال السنوات الـ15 الماضية حول نموذج الدوال القصيرة: يصل الطلب، فينفّذ الخادم المهمة خلال أجزاء من الثانية أو بضع ثوانٍ، ثم يعيد النتيجة. وقد أدّى هذا النموذج عمله على أكمل وجه في تطبيقات الويب والخدمات المصغّرة ومعالجة البيانات.

يعمل وكلاء الذكاء الاصطناعي بطريقة مختلفة تمامًا. فبدلًا من طلب API لمرة واحدة، يبدأ الوكيل عمله وقد يستمر ساعات أو أيامًا، فيتخذ القرارات، ويستدعي الأدوات، ويحلّل النتائج، ويتكيّف مع المعلومات الجديدة. ومن الضروري أن يحتفظ بحالته، ويتذكر السياق، وينسّق خططًا طويلة الأمد.

• الوكيل لا يستدعي LLM مرة واحدة فحسب، بل يعمل بصورة تكرارية
• يحتاج إلى عملية طويلة العمر لا يقتلها الخادم
• يجب أن يتذكر السياق كاملًا بين الخطوات
• يتفاعل مع عدد كبير من الأدوات وواجهات API والخدمات بالتوازي

لماذا لا تناسب بنية serverless هذا النوع من الأعمال

عند تشغيل دالة على AWS Lambda أو Google Cloud Functions، يمكن للسحابة إنهاء الحاوية في أي لحظة بعد انتهاء التنفيذ. ولا تُحفظ الحالة. فالاستدعاء التالي للدالة يبدأ من صفحة بيضاء.

وهذا يعني أن كل تكرار لدى الوكيل يفقد سياق الخطوات السابقة، ولا يستطيع الوكيل العمل على المدى الطويل. ويتحول توسيع النطاق إلى مشكلة: فأنت تشغّل عددًا كبيرًا من الدوال المستقلة بدلًا من إدارة عملية واحدة منسّقة وطويلة العمر. وتتنافس الموارد فيما بينها، وتتأثر الموثوقية سلبًا.

ببساطة، لم تُصمَّم المنصات السحابية الحالية لهذا الغرض.

ما الذي تتطلبه البنية التحتية للوكلاء

يجب أن توفّر المنصة التي تدعم الوكلاء ما يلي:

• حاويات طويلة العمر لا تفقد حالتها
• حفظًا مضمونًا للذاكرة بين التكرارات
• توسيعًا سهلًا لنطاق عدد كبير من الوكلاء العاملين في وقت واحد
• تنسيقًا مدمجًا وتحمّلًا للأعطال
• وصولًا سهلًا إلى GPU/CPU دون الحاجة إلى إدارة البنية التحتية

تقدّم Modal نفسها بوصفها هذه المنصة: سحابة تسأل أولًا «ما الحوسبة التي يحتاجها الوكيل؟» بدلًا من «أي الدوال ينبغي أن أوسّع نطاقها؟».

ماذا يعني ذلك

تدخل البنية التحتية السحابية دورتها الثالثة من التطور. كانت الأولى تتعلق بمجرد نقل الخوادم إلى السحابة. والثانية بالخدمات المصغّرة وتوسيع نطاق الدوال. أما الثالثة فهي عصر وكلاء الذكاء الاصطناعي طويلي العمر، الذين يتطلبون بنية من نوع جديد. وتُظهر منصات مثل Modal أن البنية التحتية يجب أن تتطور بالتوازي مع أنواع التطبيقات التي يبنيها المطورون.