وكلاء AI يخلقون سطحًا جديدًا للهجوم: كيف تبني الشركات دفاعاتها

مع قيام الشركات بنشر وكلاء الذكاء الاصطناعي بشكل جماعي للعمل جنباً إلى جنب مع البشر، قد تفتح دون قصد الباب أمام أنواع جديدة من الهجمات السيبرانية. الوكلاء غير المحميين عرضة للتلاعب ويمكنهم الوصول إلى الأنظمة الحرجة والأسرار التجارية — دون أن يتم اكتشافهم من قبل فرق الأمن. تكمن المشكلة الأساسية في مفهوم الهويات غير البشرية (NHI).

وهي عبارة عن رموز وفتاحات واجهات برمجية وحسابات الخدمة والآليات الأخرى التي من خلالها تتحقق الأنظمة البرمجية — بما فيها وكلاء الذكاء الاصطناعي — من هويتها وتتفاعل مع الخدمات الأخرى. في عدد من الشركات الكبرى الحديثة، تتجاوز الهويات غير البشرية بالفعل من حيث العدد الحسابات البشرية. سيؤدي الانتقال إلى الذكاء الاصطناعي الوكيل، وفقاً لتوقعات مجلة MIT Technology Review، إلى جعل هذه الفجوة أسية.

كل معرّف من هذه القبيل هو نقطة دخول محتملة. إذا كان الوكيل يعمل بامتيازات زائدة أو كانت بيانات اعتماده مخترقة، يحصل المهاجم على الوصول ليس فقط إلى حساب واحد، بل إلى كامل البنية الأساسية التي يتفاعل معها الوكيل. في الوقت ذاته، أدوات المراقبة التقليدية المصممة لتتبع تصرفات البشر ببساطة لا تكتشف مثل هذه التهديدات.

يسلط الخبراء الضوء على عدة اتجاهات لبناء حماية على مستوى الوكيل. أولاً — مبدأ الامتيازات الدنيا: يجب أن يكون لدى الوكيل فقط الحقوق اللازمة لمهمة معينة، لا أكثر. ثانياً — تدقيق وتدوير الهويات غير البشرية بالتوازي مع كلمات المرور البشرية.

ثالثاً — تطبيق سياسات الثقة الصفرية لكل تفاعل وكيل: لا تُعتبر أي طلب آمناً افتراضياً. هناك تهديد منفصل هو ما يسمى بهجمات حقن الأوامر، حيث يتم تضمين تعليمات خبيثة في بيانات إدخال الوكيل وتجبره على تنفيذ إجراءات غير مصرح بها. هذا خطير بشكل خاص عندما يكون لدى الوكيل إمكانية الوصول إلى قواعد البيانات الخاصة بالشركة أو أدوات الأتمتة.

الانتقال إلى الذكاء الاصطناعي الوكيل ليس مجرد تحول تقني؛ بل هو إعادة تصور لنموذج أمن الشركات ذاته. تواجه الشركات التي لا تضع في مكانها إدارة الهويات غير البشرية الآن خطر مواجهة انتهاكات سيكون من الصعب للغاية نسبتها والتحقيق فيها. الحوكمة للذكاء الاصطناعي الوكيل لم تعد خياراً، بل أصبحت متطلباً أساسياً.