وكلاء الذكاء الاصطناعي يفتحون سطح هجوم جديدًا: كيف تبني الشركات دفاعاتها

بينما تتسابق الشركات إلى نشر وكلاء الذكاء الاصطناعي ليعملوا جنبًا إلى جنب مع الموظفين، قد تفتح الباب دون قصد أمام أنواع جديدة من الهجمات السيبرانية. فالوكلاء غير المحمّيين يمكن التلاعب بهم، وقادرون على الوصول إلى أنظمة حيوية وأسرار تجارية دون أن تلاحظ فرق الأمن ذلك.

تكمن المشكلة الرئيسية في مفهوم الهويات غير البشرية (Non-Human Identities، أو NHI). وهي الرموز المميزة (tokens) ومفاتيح API وحسابات الخدمة وغيرها من الآليات التي تصادق بها الأنظمة البرمجية، ومنها وكلاء الذكاء الاصطناعي، على هويتها وتتفاعل عبرها مع الخدمات الأخرى. وفي عدد من المؤسسات الكبرى اليوم، يتجاوز عدد هذه الهويات عدد الحسابات البشرية. ووفق توقعات MIT Technology Review، سيجعل الانتقال إلى الذكاء الاصطناعي الوكيلي هذا الفارق يتسع بوتيرة أسية.

كل هوية من هذا النوع نقطة دخول محتملة. فإذا عمل الوكيل بصلاحيات زائدة، أو تعرضت بيانات اعتماده للاختراق، لا يحصل المهاجم على حساب واحد فحسب، بل على البنية التحتية بأكملها التي يتفاعل معها الوكيل. وفي المقابل، لا ترصد أدوات المراقبة التقليدية، المضبوطة على تتبع أفعال البشر، هذه التهديدات أصلًا.

ويحدد الخبراء عدة اتجاهات لبناء الحماية على مستوى الوكلاء. الأول هو مبدأ الحد الأدنى من الامتيازات: يجب أن يملك الوكيل الصلاحيات اللازمة للمهمة المحددة تمامًا، وليس أكثر منها. الثاني هو تدقيق الهويات غير البشرية وتدويرها بالمستوى نفسه المطبق على كلمات المرور البشرية. الثالث هو تطبيق سياسات انعدام الثقة (zero trust) على كل تفاعل يقوم به الوكلاء، بحيث لا يُعدّ أي طلب آمنًا افتراضيًا.

ويشكّل ما يُعرف بهجمات حقن الأوامر (prompt injection) تهديدًا مستقلًا، إذ تُدسّ تعليمات خبيثة في المدخلات التي يعالجها الوكيل فتدفعه إلى تنفيذ إجراءات غير مصرّح بها. ويزداد الخطر حين يملك الوكيل صلاحية الوصول إلى قواعد البيانات المؤسسية أو أدوات الأتمتة.

الانتقال إلى الذكاء الاصطناعي الوكيلي ليس مجرد تحول تقني، بل إعادة تفكير في نموذج الأمن المؤسسي نفسه. والشركات التي لن تبني منظومة لإدارة الهويات غير البشرية منذ الآن تخاطر بمواجهة تسريبات يصعب جدًا تحديد مصدرها والتحقيق فيها. وتصبح الحوكمة (governance) في الذكاء الاصطناعي الوكيلي متطلبًا أساسيًا لا خيارًا.