يجب أن تنمو صلاحيات وكلاء الذكاء الاصطناعي مع قدراتهم — كما تفعل Anthropic

أصدرت Anthropic دليلًا هندسيًا مخصصًا لإدارة صلاحيات الوصول لدى وكلاء الذكاء الاصطناعي. والخلاصة الرئيسية: كلما أصبح الوكلاء أقوى وأنجزوا مهام أكثر تعقيدًا، وجب أن تتطور صلاحياتهم (permissions). وتستخدم الشركة الـ sandboxing، وهو أسلوب خاص يحدّ من الإجراءات التي قد تكون تدميرية، ويحمي الأنظمة من الأخطاء.

لماذا يُعد هذا الأمر بالغ الأهمية

يحصل وكلاء الذكاء الاصطناعي بصورة متزايدة على إمكانية الوصول إلى أدوات خارجية: المتصفح، ونظام الملفات، وواجهات API، وقواعد البيانات. وهذا يوسّع قدراتهم، لكنه يزيد المخاطر في الوقت نفسه. فإذا أخطأ الوكيل، أو دفعه طلب صيغ بشكل غير صحيح إلى التصرف خطأً، فقد يحذف بيانات مهمة، أو يرسل رسالة بريد عشوائية من حسابك، أو ينفّذ عملية مالية خاطئة.

وتؤكد Anthropic أن صلاحيات الوصول ليست مجموعة ثابتة من الأذونات. بل يجب أن تنمو مع قدرات الوكيل وموثوقيته. فالوكيل الجديد يحصل على الحد الأدنى من الصلاحيات، ثم تتوسع permissions الخاصة به تدريجيًا كلما أثبت استقراره وفهمه للسياق.

كيف يعمل الـ sandboxing

الـ sandboxing هو عزل. فأنت تتيح للوكيل العمل في بيئة محدودة لا يستطيع الخروج من حدودها ولا الإضرار ببقية النظام. ومن الأمثلة على ذلك:

• يستطيع الوكيل تعديل الملفات الموجودة في المجلد /tmp فقط، دون المساس بالمجلدات النظامية
• تمر طلبات API عبر طبقة وكيلة (proxy) تتحقق من كل استدعاء
• يرى وكيل المتصفح مواقع محددة فقط، وتُحجب بقية المواقع
• تتطلب العمليات المالية تأكيدًا إضافيًا أو يوضع لها حد أقصى للمبلغ
• تكون قواعد البيانات متاحة للقراءة فقط، أو لجداول محددة فقط

يتيح هذا النهج منح الوكيل قدرًا كافيًا من الحرية للعمل، ويُبقيه في الوقت نفسه ضمن حدود الأمان.

النهج العملي لدى Anthropic

تطبّق Anthropic هذه المبادئ عمليًا في منتجاتها، ومنها Claude وأطر العمل الجديدة للوكلاء. فعند نشر وكيل، تحدد أولًا الأدوات التي يمكنه استخدامها وكيف ينبغي تقييدها. فمثلًا، إذا كنت تحتاج الوكيل للإجابة عن أسئلة حول وثائقك، فتمنحه الوصول إلى هذه الوثائق فقط. وإذا كان الوكيل يساعد في إدارة التقويم، فتسمح له بقراءة الأحداث وكتابتها فقط، دون إدارة الجوانب الأخرى من الحساب.

ومن المهم بوجه خاص بناء نظام مراقبة. وتوصي الشركة بتسجيل جميع أفعال الوكيل: الأوامر التي نفّذها، والأدوات التي استخدمها، والأخطاء التي وقعت. ويساعد التدقيق الدوري على اكتشاف السلوك الغريب بسرعة. وإذا بدأ الوكيل في فعل أمور غير متوقعة أو خرج عن أنماطه المعتادة، فيجب أن ينبّه النظام إلى ذلك أو يحظره.

«الثقة ليست خيارًا ثنائيًا. إنها طيف، وينبغي منح الوكيل بالضبط القدر من الصلاحيات الذي يحتاجه للعمل في اللحظة الراهنة»، كما جاء في دليل

Anthropic.

وكلما أثبت الوكيل استقراره وفهمه للسياق، يمكن توسيع صلاحياته تدريجيًا. لكن ينبغي أن تكون هذه عملية واعية ومتدرجة، لا ترقية تلقائية بناءً على مدة العمل.

ماذا يعني ذلك

الـ sandboxing السليم والصلاحيات الديناميكية (permissions) ليسا مجرد best practice، بل ضرورة عند نشر وكلاء الذكاء الاصطناعي في بيئات الإنتاج. وبالنسبة إلى المؤسسات التي تنشر وكلاء ذكاء اصطناعي في أنظمتها، يعني ذلك ما يلي: فكّر بعناية فيما ينبغي أن يفعله وكيلك وما البيانات التي يحتاجها، وحدّد النطاق (scope) الدقيق لصلاحياته وقيوده، وراقب سلوكه في الوقت الفعلي، ووسّع الصلاحيات تدريجيًا مع نمو موثوقية الوكيل.

ويزداد هذا أهمية في السيناريوهات الحرجة: فإذا كان الوكيل يملك الوصول إلى بيانات مالية أو سجلات طبية أو معلومات شخصية أو بنية تحتية حرجة، يصبح خطر الخطأ هائلًا. أما بالنسبة إلى شركات الذكاء الاصطناعي مثل Anthropic، فيعني ذلك ترسيخ هذه المبادئ في بنية المنتج منذ البداية، لا إضافتها لاحقًا كرقعة (patch).