IBM: у 92% компаний с AI-инцидентами не было базового контроля доступа

أجرت IBM دراسةً حول حوادث الأمن المؤسسي في أنظمة AI، ووثّقت خلالها نمطاً يُعيد رسم الأولويات في مجال حماية الذكاء الاصطناعي: 92% من الشركات التي تعرضت لحادثةٍ من هذا النوع لم تكن تمتلك ضوابط أساسية للوصول إلى أدوات AI الخاصة بها. في الوقت ذاته، لم يكن النموذج نفسه — بنيته المعمارية أو أوزانه أو خوارزميته — السببَ الجذري للمشكلة في غالبية الحالات الموثقة.

أين تكمن الثغرة فعلياً

لم تُقيّد 92% من الشركات التي تعرضت لحوادث AI صلاحياتِ الوصول إلى أنظمة AI لديها — أي من يحق له الوصول وبأيّ صلاحيات — وهذا هو الرقم المحوري في دراسة IBM. كانت ضوابط الوصول، ومراجعة الصلاحيات، ومراقبة الاستعلامات الموجهة إلى النموذج، غائبةً تحديداً حيث كان ينبغي أن تُشكّل خطَّ الدفاع الأول.

في الوقت ذاته، لم يستهدف المهاجمون النموذجَ مباشرةً في الغالب، بل استغلوا متجهات أبسط: اخترقوا حساباً يتمتع بصلاحيات مفرطة، ونالوا بذلك الوصول إلى واجهة AI — ليتولى النظام نفسه بعد ذلك إمدادهم بالمعلومات التي أرادوها.

• 92% من الشركات المتضررة من حوادث AI لم تمتلك ضوابط كافية للوصول إلى أنظمة AI
• نادراً ما كان نموذج AI هو السبب الجذري لانتهاك الأمن
• أبرز متجهات الهجوم: الصلاحيات المفرطة لحسابات المستخدمين وحسابات الخدمات
• أدى غياب مراقبة الاستعلامات الشاذة الموجهة إلى أنظمة AI إلى تفاقم نطاق الحوادث

لا يقتصر التحكم في الوصول إلى نظام AI على اسم المستخدم وكلمة المرور. في السياق المؤسسي، يعني ذلك صلاحياتٍ دقيقة التفصيل: ما البيانات وقواعد المعرفة التي يمكن للنموذج الوصول إليها، ومن الموظفين والمتعاقدين يحق له توجيه الاستعلامات وبأيّ حجم.

لماذا باتت أنظمة AI هدفاً جذاباً

باتت أدوات AI المؤسسية تحصل بصورة متزايدة على وصولٍ واسع إلى بيانات أعمال حيوية: قواعد بيانات العملاء، والوثائق المالية، والمراسلات الداخلية، والمواد الاستراتيجية. وهذا بالضبط ما يجعلها هدفاً ذا قيمة — لا بسبب ثغرات النموذج ذاته، بل بسبب البيانات التي يمكن بلوغها من خلاله عبر استعلامات اعتيادية.

يربط الإعداد المؤسسي النموذجيّ لـ AI النموذجَ بالوثائق وبيانات CRM والدردشات المهنية وقواعد المعرفة. وإن غابت القيود على ما يمكن للنظام «رؤيته» وإخراجه استجابةً للاستعلامات، فإن نطاق أيّ تسرب محتمل للبيانات يتحدد بمدى اتساع الوصول الذي كان يتمتع به الحساب المخترَق.

«نادراً ما يكون النموذج ذاته هو المشكلة»، خلصت دراسة IBM، التي تُشير

إلى العوامل التنظيمية والتهيئوية بوصفها السبب الرئيسي لأغلب حوادث AI الموثقة.

لماذا لا تزال التدابير الأساسية غير مُطبَّقة

أفرز التبنّي المتسارع للذكاء الاصطناعي في البيئة المؤسسية وضعاً تتصل فيه أنظمة AI ببيانات الإنتاج قبل إقامة المحيط الأمني اللازم حولها. وكثيراً ما تُعامَل هذه الأدوات باعتبارها «خدمة SaaS أخرى»، لا بوصفها بنيةً تحتيةً ذات وصول إلى موارد مؤسسية بالغة الأهمية.

مبدأ الصلاحية الدنيا (least privilege)، والمراجعة الدورية للوصول، ومراقبة الاستعلامات الشاذة، وفصل بيئات الاختبار عن بيئات الإنتاج — ليست مفاهيم جديدة. طالما طبّق أمن تقنية المعلومات هذه المفاهيم على أنظمة CRM وERP وقواعد البيانات منذ عقود. غير أن هذه الخطوة تُتخطى بصورة منهجية عند نشر أنظمة AI وفق ما خلصت إليه IBM.

ما الذي يعنيه هذا

يُحوّل بحث IBM الحوار حول أمن AI من ميدان المخاطر الخوارزمية إلى ميدان النضج التنظيمي. كثيراً ما تنصبّ النقاشات العامة حول تهديدات AI على ثغرات النماذج ذاتها: حقن التعليمات (prompt injection)، والهلوسة، والسلوك غير المتوقع. بيد أن الصورة الفعلية للحوادث، وفقاً لـ IBM، مغايرة: تسعة من كل عشر شركات واجهت انتهاكاً أمنياً مرتبطاً بـ AI كان بإمكانها تجنّبه بتدابير يُطبّقها متخصصو أمن المعلومات منذ عقود. وبالنسبة لـ CISO وفرق تقنية المعلومات، هذه هي الخلاصة الأساسية: قبل توسيع نطاق البنية التحتية لـ AI، ينبغي التثبت من أن المعايير ذاتها لضبط الوصول المعمول بها في أيّ أداة مؤسسية حيوية أخرى مُطبَّقةٌ هي الأخرى حولها.