وكلاء متخفّون: لماذا قد تكون شبكاتكم العصبية أخطر من القراصنة

بينما يتجادل مديرو التقنية حول أي نموذج يكتب الشيفرة البرمجية بشكل أفضل، بدأت مجالس الإدارة تطرح أسئلة أكثر إحراجًا بكثير. تخيّلوا أن مساعدكم الجديد القائم على الذكاء الاصطناعي، والذي مُنح صلاحية الوصول إلى نظام CRM والبريد الإلكتروني، يقرر فجأة إرسال استراتيجية سرية إلى المنافسين، لمجرد أن شخصًا من الخارج بعث إليه رسالة صيغت بإتقان. هذا ليس سيناريو من أفلام الخيال السيبراني، بل واقع الأنظمة الوكيلة، حيث لم تعد أساليب الحماية القديمة، مثل «لا تقل كلمات سيئة»، تجدي نفعًا. نحن ننتقل بسرعة من عصر روبوتات الدردشة غير الضارة إلى عصر الوكلاء المستقلين، وهذا يغيّر قواعد اللعبة في مجال الأمن إلى الأبد.

كان الأمر في السابق بسيطًا: كنا نبني «أسوارًا» حول الأوامر النصية. فإذا حاول مستخدم إجبار الشبكة العصبية على شرح طريقة تحضير الميثامفيتامين أو الكشف عن كلمة مرور المسؤول، كانت المرشّحات اللغوية تحجب الطلب. أما في الأنظمة الوكيلة فيتحول الذكاء الاصطناعي نفسه إلى مستخدم نشط. فهو يقرأ الرسائل الواردة، ويحلل الملفات، ويضغط على الأزرار في البرمجيات المؤسسية. والخطأ الكبير الذي ترتكبه الشركات اليوم هو استمرارها في الاعتماد على القيود النصية، بينما انتقل التهديد إلى مستوى صلاحيات الوصول وتنفيذ الشيفرة. فإذا كان الوكيل قادرًا تقنيًا على تنفيذ إجراء ما، فسينفذه بمجرد تلقيه الأمر المناسب، حتى لو جاء متنكرًا في هيئة مهمة عمل عادية.

لماذا أصبح هذا الأمر حرجًا الآن تحديدًا؟ لأن الشركات بدأت تعتمد «المنسّقين» (orchestrators) على نطاق واسع، وهي أنظمة تدير فيها شبكة عصبية واحدة عشرات الأدوات الأخرى. وقد أظهرت الموجة الأولى من التجسس بالذكاء الاصطناعي أن اختراق الأمر النصي داخل نظام مغلق يكاد يستحيل ضبطه إذا كان الوكيل يتمتع بحرية عمل غير محدودة داخل البنية التحتية. ونرى كيف يفشل مفهوم «الأمن عبر النص» فشلًا ذريعًا. وبات على جدول الأعمال الآن نظام صارم للحوكمة (governance) لا يركّز على ما يقوله الذكاء الاصطناعي، بل على ما يُسمح له بلمسه في بيئتكم المؤسسية.

يتطلب الانتقال من «حواجز الحماية» (guardrails) إلى الحوكمة المتكاملة تغييرًا كاملًا في نمط التفكير. فبدلًا من محاولة التنبؤ بآلاف صيغ الأوامر الخبيثة، وهو أمر مستحيل رياضيًا، ينبغي للشركات اعتماد مبدأ الحد الأدنى من الامتيازات للذكاء الاصطناعي. فإذا كان الروبوت لا يحتاج إلى حذف الملفات أو تغيير إعدادات الوصول لأداء عمله، فيجب ألا تتوفر له هذه الإمكانية تقنيًا على مستوى API، لا على مستوى «التعليمات في الأمر النظامي». يبدو هذا منطقيًا، لكن معظم عمليات نشر الذكاء الاصطناعي الوكيل اليوم تمنح وصولًا مفرطًا بدافع راحة مزعومة للمطورين وسرعة الإطلاق.

ماذا يعني ذلك للسوق في المدى القريب؟ سنشهد نموًا انفجاريًا في الشركات الناشئة المتخصصة في «جدران حماية الذكاء الاصطناعي» من الجيل الجديد. ستكون هذه أنظمة ترصد سلوك الوكلاء في الوقت الفعلي، وتتحقق من توافق كل إجراء يقومون به مع منطق أعمال صارم. أما من يتجاهل هذا التحول، فقد يجد شبكاته العصبية الخاصة قد تحولت إلى «مطّلعين من الداخل» مثاليين لصالح قراصنة من الخارج. والمفارقة أنه كلما أصبح مساعدكم الذكي أكثر ذكاءً وفائدة، صار نقطة دخول أسهل وأخطر إلى الشبكة المؤسسية في غياب الرقابة الكافية.

وفي النهاية، تقع مسؤولية أمن الأنظمة الوكيلة على عاتق الرئيس التنفيذي (CEO)، لا على المختصين التقنيين وحدهم. إنها مخاطرة استراتيجية تفوق في حجمها الانتقال إلى الحوسبة السحابية قبل عشر سنوات. ويجب أن ندرك بوضوح أن الوكيل ليس مجرد برنامج، بل كيان ديناميكي يملك قدرًا من الإرادة. وإذا عجزت إدارة الشركة عن الإجابة عن سؤال: كيف تحديدًا تُقيَّد قدرة الذكاء الاصطناعي على التصرف في البيانات المؤسسية؟ فهذا يعني أن شركتها باتت بالفعل في منطقة مخاطر لا يمكن التحكم فيها.

الخلاصة: لم يعد أمن الذكاء الاصطناعي قائمًا على اللغويات، بل على البنية المعمارية. والسبيل الوحيد لحماية الأعمال هو سلب الوكيل القدرة الفعلية على ارتكاب خطأ حرج، بصرف النظر عن نوع الأمر النصي الذي يصله من المهاجم.