NVIDIA تشرح كيفية إدارة الوكلاء المستقلين في مصانع الذكاء الاصطناعي المؤسسية

لم يعد وكلاء الذكاء الاصطناعي مجرد روبوتات دردشة. فهم يراجعون الشيفرة البرمجية ويشغّلون الاختبارات ويقرؤون الوثائق ويتنقلون بين قواعد المعرفة ويتصلون بالأنظمة الداخلية، وقد يعملون لساعات نيابةً عن الموظف. وهذا يعني أن أمن الشركات يجب أن يُعاد بناؤه بالتوازي مع تطور هؤلاء الوكلاء.

الوكيل ليس مجرد طلب

لا ينفّذ وكيل الذكاء الاصطناعي الحديث طلبًا واحدًا، بل سلسلة كاملة من الإجراءات: يقرأ وثيقة، ويحدد قاعدة البيانات المطلوبة، ويصوغ استنتاجًا، ويشغّل سكربتًا، وكل ذلك دون مشاركة بشرية مستمرة. ويرفع هذا النمط من العمل الإنتاجية بشكل ملحوظ، لكن مساحة التهديدات المحتملة تتسع معها.

قد يصل الوكيل إلى بيانات حساسة في الشركة، مثل الشيفرات المصدرية والتقارير المالية والبيانات الشخصية للعملاء. وهو يتصرف في الوقت نفسه نيابةً عن مستخدم بعينه، ولذلك يجب أن تقتصر أفعاله على صلاحيات هذا المستخدم، لا على كامل نطاق الأذونات المتاحة في النظام. وفي الوقت الحالي لا تضمن معظم الشركات ذلك.

وثمة مشكلة مستقلة تتعلق بمدة العمل. فإذا كان الطلب العادي يستغرق ثوانيَ، فقد يؤدي الوكيل مهمته عدة ساعات. وخلال هذه المدة قد تتغير الظروف، أو تظهر بيانات جديدة، أو ينشأ فرع خاطئ في المنطق. لذا لا تقتصر الحاجة إلى الرقابة على لحظة البدء، بل تمتد إلى أثناء التنفيذ، وصولًا إلى إمكانية الإيقاف الطارئ.

خمسة مبادئ للنشر الآمن

تحدد NVIDIA عدة مستويات رئيسية ينبغي أن تعمل عليها إدارة الوكلاء في بيئة الشركات:

• الهوية والمصادقة — يجب أن يمتلك كل وكيل معرّفًا يمكن التحقق منه، ليتسنى تحديد من نفّذ كل إجراء بدقة
• الحد الأدنى من الصلاحيات — يحصل الوكيل فقط على الموارد اللازمة للمهمة الحالية
• التدقيق والتتبع — تُسجَّل جميع الإجراءات بصيغة تسهّل مراجعتها وإعادة إنتاجها
• عزل البيانات — لا يخلط الوكلاء المعلومات بين مشاريع أو مستخدمين أو نطاقات أمنية مختلفة
• الرقابة في الوقت الفعلي — يجب أن تتوافر إمكانية تقنية لمقاطعة الوكيل عند قيامه بإجراءات غير مرغوب فيها

ومن دون هذه المبادئ، يتحول حتى أكثر الوكلاء إنتاجية إلى مصدر خطر لا يمكن التحكم فيه. وقد بدأت الجهات التنظيمية في القطاعين المالي والطبي تطرح أسئلة لا تتعلق بقدرات الوكلاء، بل بإمكانية تدقيقهم والمساءلة عن قراراتهم.

بنية مصنع الذكاء الاصطناعي

في تصور NVIDIA، «AI Factory» هو بنية تحتية لا يكتفي فيها الوكلاء بالتشغيل، بل يُدمَجون في سلسلة مُدارة تمتد من استلام المهمة إلى النتيجة المتحقَّق منها. وهي ليست مجرد مجموعة أدوات، بل نموذج عمليات يقوم على فصل واضح للمسؤوليات.

يحدد المنسّق (orchestrator) أي وكيل ينفّذ أي خطوة. ويعمل كل وكيل في بيئة معزولة خاصة به بصلاحيات محدودة. وتُفحص نتائج كل خطوة قبل تمريرها إلى المرحلة التالية. وتُسجَّل العملية بأكملها، ويمكن إعادة إنتاجها لأغراض التدقيق أو التحقيق في الحوادث.

«لا يحتاج الوكلاء إلى بنية تحتية للتشغيل فحسب، بل إلى بيئة يمكن فيها

فهم أفعالهم والتحقق منها والتراجع عنها عند الحاجة».

يكتسب هذا النهج أهمية خاصة للشركات المالية والطبية والدوائر القانونية. لكن حتى في القطاعات الأقل خضوعًا للتنظيم، قد تكلّف حادثة تسرب بيانات عبر وكيل مستقل أكثر مما وُفِّر عند بناء بنية تحتية محمية.

ماذا يعني ذلك

على المؤسسات التي تنشر وكلاء الذكاء الاصطناعي أن تفكر لا في كفاءتهم فحسب، بل في قابليتهم للإدارة أيضًا. فالأدوات والأدوار والسجلات وسياسات الوصول كلها تصبح جزءًا إلزاميًا من البنية المعمارية للوكلاء.

والشركات التي تبني هذه البنية التحتية الآن ستحصل على ميزة كبيرة عند التوسع، وستتجنب حوادث مؤلمة في المراحل الأولى.