IBM: 92% من الشركات التي تعرضت لحوادث أمنية في الذكاء الاصطناعي لم تكن لديها ضوابط أساسية للتحكم في الوصول

أجرت IBM دراسة على حوادث الأمن السيبراني في أنظمة الذكاء الاصطناعي داخل الشركات، ورصدت نمطًا يغيّر أولويات حماية الذكاء الاصطناعي: لم تكن لدى 92% من الشركات التي تعرضت لحادثة من هذا النوع ضوابط أساسية للتحكم في الوصول إلى أدوات الذكاء الاصطناعي لديها. كما أن النموذج نفسه، سواء من حيث بنيته أو أوزانه أو خوارزميته، لم يكن في معظم الحالات المسجلة السبب الأول للمشكلة.

أين تنشأ الثغرة فعلًا

لم تقيّد 92% من الشركات التي شهدت حوادث في الذكاء الاصطناعي من يحق له الوصول إلى أنظمتها وبأي صلاحيات، وهذا هو الرقم المحوري في دراسة IBM. فالتحكم في الوصول وتدقيق الصلاحيات ومراقبة الطلبات الموجهة إلى النموذج كانت غائبة تحديدًا في الموضع الذي يفترض أن تشكّل فيه خط الدفاع الأول.

وفي المقابل، لم يهاجم المخترقون النموذج مباشرةً في الغالب. فقد استغلوا مسارات أبسط: اخترقوا حسابًا يملك صلاحيات مفرطة، ووصلوا إلى واجهة الذكاء الاصطناعي، ثم قدّم لهم النظام نفسه المعلومات التي يريدونها.

• 92% من الشركات المتضررة من حوادث الذكاء الاصطناعي لم تكن لديها ضوابط كافية للتحكم في الوصول إلى أنظمة الذكاء الاصطناعي
• نادرًا ما كان نموذج الذكاء الاصطناعي السبب الأول للخرق الأمني
• أبرز مسارات الهجوم: الصلاحيات المفرطة للمستخدمين وحسابات الخدمة
• غياب مراقبة الطلبات الشاذة الموجهة إلى نظام الذكاء الاصطناعي فاقم حجم الحوادث

لا يقتصر التحكم في الوصول إلى نظام الذكاء الاصطناعي على اسم المستخدم وكلمة المرور. ففي بيئة الشركات يعني ذلك أذونات دقيقة ومفصّلة: أي البيانات وقواعد المعرفة متاحة للنموذج، ومن من الموظفين والمتعاقدين يحق له إرسال الطلبات، وبأي حجم.

لماذا أصبحت أنظمة الذكاء الاصطناعي هدفًا جذابًا

تحصل أدوات الذكاء الاصطناعي في الشركات على وصول واسع ومتزايد إلى بيانات الأعمال الحساسة: قواعد بيانات العملاء، والوثائق المالية، والمراسلات الداخلية، والمواد الاستراتيجية. وهذا ما يجعلها هدفًا ثمينًا، لا بسبب ثغرات في النموذج نفسه، بل بسبب البيانات التي يمكن الوصول إليها عبره بطلبات عادية.

يربط التركيب المعتاد للذكاء الاصطناعي في الشركات النموذجَ بالمستندات وبيانات CRM ومحادثات العمل وقواعد المعرفة. وإذا لم تكن هناك قيود على ما يمكن للنظام «رؤيته» وتقديمه استجابةً للطلبات، فإن حجم التسرب المحتمل لا يحدده سوى اتساع صلاحيات الوصول إلى البيانات التي كان يملكها الحساب المخترق.

«نادرًا ما يكون النموذج نفسه هو المشكلة»، هذا ما يخلص إليه بحث IBM

الذي يشير إلى عوامل تنظيمية وعوامل تتعلق بالإعدادات بوصفها السبب الرئيسي لمعظم حوادث الذكاء الاصطناعي المسجلة.

لماذا تبقى الإجراءات الأساسية دون تطبيق

أدى التبني المتسارع للذكاء الاصطناعي في بيئة الشركات إلى وضع تُربط فيه أنظمة الذكاء الاصطناعي ببيانات الإنتاج قبل أن يُبنى حولها المحيط الأمني اللازم. وكثيرًا ما يُنظر إلى هذه الأدوات على أنها «خدمة SaaS أخرى»، لا على أنها بنية تحتية تملك وصولًا إلى موارد حيوية للشركة.

مبدأ الحد الأدنى من الصلاحيات (least privilege)، والتدقيق الدوري في الوصول، ومراقبة الطلبات الشاذة، والفصل بين بيئات الاختبار وبيئات الإنتاج، كلها مفاهيم ليست جديدة. فقد طبّقها أمن تقنية المعلومات على أنظمة CRM وERP وقواعد البيانات منذ عقود. ووفق بيانات IBM، يُتجاهل هذا الإجراء بصورة منهجية عند نشر أنظمة الذكاء الاصطناعي.

ماذا يعني ذلك

تنقل دراسة IBM النقاش حول أمن الذكاء الاصطناعي من مجال المخاطر الخوارزمية إلى مجال النضج التنظيمي. فالنقاشات العامة حول تهديدات الذكاء الاصطناعي تركّز غالبًا على ثغرات النماذج نفسها: حقن الأوامر (prompt injection)، والهلوسة، والسلوك غير المتوقع. غير أن صورة الحوادث الفعلية، بحسب IBM، مختلفة: تسع من كل عشر شركات واجهت خرقًا في الذكاء الاصطناعي كان بإمكانها تفاديه بإجراءات يطبّقها متخصصو أمن المعلومات منذ عقود. وبالنسبة إلى مسؤولي أمن المعلومات (CISO) وفرق تقنية المعلومات، فإن الخلاصة الأهم هي أنه قبل توسيع نطاق البنية التحتية للذكاء الاصطناعي، يجب التأكد من أن معايير التحكم في الوصول نفسها المطبقة على أي أداة حيوية أخرى في الشركة تعمل حولها.