AWS تطلق ToolSimulator للاختبار الآمن لوكلاء الذكاء الاصطناعي ضمن Strands Evals

نشرت AWS أداة ToolSimulator، وهي إطار عمل لاختبار وكلاء الذكاء الاصطناعي الذين يعملون مع أدوات خارجية. وبدلًا من استدعاءات API الحقيقية المحفوفة بالمخاطر، تستخدم الأداة نموذج LLM لمحاكاة الاستجابات ديناميكيًا، بطريقة آمنة وقابلة للتوسع ودون تسرب للبيانات.

يواجه أي وكيل ذكاء اصطناعي قادر على التعامل مع واجهات API أو قراءة قواعد البيانات أو إدارة الخدمات الخارجية مشكلة واحدة عند الاختبار: كيف يمكن التحقق من سلوك الوكيل دون المساس ببيئة الإنتاج؟ والأساليب التقليدية لا تحل هذه المشكلة بالكامل. فاستدعاء API حقيقي ينطوي على خطر، إذ قد يرسل الوكيل رسالة بريد إلكتروني عن غير قصد، أو ينشئ سجلًا في نظام CRM، أو يمرر بيانات شخصية إلى خدمة خارجية. أما المحاكيات الثابتة (static mocks) فتصلح للسيناريوهات البسيطة، لكنها تنهار في الحوارات متعددة الخطوات، حيث تؤثر استجابة الأداة في الطلب التالي للوكيل.

واقترحت AWS طريقًا ثالثًا هو ToolSimulator ضمن Strands Evals SDK. يستخدم إطار العمل نموذج LLM لتوليد استجابات واقعية للأدوات، كما لو أن API حقيقيًا يرد على طلب الوكيل. ولا تغادر أي بيانات البيئة في هذه العملية، إذ يجري كل شيء داخل بيئة اختبار معزولة.

كيف يعمل ذلك عمليًا. يصف المطوّر الأدوات التي يستخدمها الوكيل، أي مخططها واستجاباتها المحتملة وحالاتها الحدّية. تتلقى ToolSimulator هذه الأوصاف، وحين يستدعي الوكيل أداةً أثناء الاختبار، تولّد استجابة معقولة. ولا يعلم الوكيل أنه يتعامل مع محاكٍ لا مع خدمة حقيقية. وهذا يتيح اختبار السلاسل متعددة الخطوات: يتلقى الوكيل استجابة، ثم يتخذ القرار التالي، ثم يستدعي الأداة مجددًا، وهكذا على امتداد السيناريو كاملًا.

تشمل القدرات الرئيسية للإطار ثلاثة محاور. الأول هو النطاق: تتيح ToolSimulator تشغيل مئات سيناريوهات الاختبار بالتوازي، وهو ما يتطلب مع واجهات API الحقيقية تكاليف ضخمة وحملًا كبيرًا على البنية التحتية. الثاني هو تغطية الحالات الحدّية: يمكن محاكاة عدم توفر API، أو بطء الاستجابة، أو صيغة بيانات غير متوقعة، أو خطأ في التوثيق، ثم فحص سلوك الوكيل في كل حالة. الثالث هو الأمان: لا استدعاءات حقيقية، وبالتالي لا خطر لتسرب البيانات الشخصية أو لإجراءات غير مقصودة في بيئة الإنتاج.

تتوفر ToolSimulator اليوم كجزء من Strands Evals SDK، وهي مجموعة أدوات مفتوحة المصدر من AWS لتقييم جودة وكلاء الذكاء الاصطناعي. أما Strands Agents فهو إطار عمل وكلاء حديث نسبيًا من AWS، وجاء Strands Evals كمكوّن مرافق للاختبار. وتوسّع ToolSimulator هذه المجموعة بحل لإحدى أكثر المهام إيلامًا، وهي الاختبار الموثوق للوكلاء ذوي الاعتماديات الحقيقية.

وتمس المشكلة القطاع بأكمله. فمع انتقال وكلاء الذكاء الاصطناعي من العروض التجريبية إلى الإنتاج، ترتفع متطلبات موثوقيتهم بحدة. إذ يجب أن يتصرف الوكيل الذي يدير البريد أو نظام CRM أو المعاملات المالية بصورة يمكن التنبؤ بها في أي ظروف، بما في ذلك حين تتصرف الأدوات التي يعتمد عليها بشكل غير معتاد. وقبل ظهور مقاربات مثل ToolSimulator، كان المطورون مضطرين للاختيار بين تغطية ناقصة ومخاطر استدعاءات API الحقيقية في بيئة الاختبار.

وبالنسبة لمطوري الوكلاء، تخفض ToolSimulator عتبة كتابة اختبارات شاملة في مجالات كانت معقدة جدًا أو خطرة سابقًا. وبوسع الفرق اكتشاف أخطاء التكامل بسرعة أكبر، وفحص الحالات الحدّية بصورة منهجية، وإطلاق وكلاء بثقة أكبر في سلوكهم.

وتنسجم الأداة مع اتجاه أوسع: فمع نضج سوق الوكلاء، تظهر حلول متخصصة لا لبناء الوكلاء فحسب، بل لاختبارهم وتقييمهم أيضًا، وتراهن AWS على احتلال هذا المجال.