MITRE ATLAS: حماية أنظمة الذكاء الاصطناعي وتعلّم الآلة من موجة جديدة من الهجمات السيبرانية

لا يغيّر الذكاء الاصطناعي أساليب حماية المعلومات فحسب، بل يغيّر كذلك طرق مهاجمتها. فمع كل شهر تظهر تهديدات جديدة متخصصة تحديدًا في اختراق أنظمة الذكاء الاصطناعي وتعلّم الآلة، فيما لا تزال المؤسسات غير مستعدة لهذه التحديات.

تهديدات جديدة لنماذج الذكاء الاصطناعي

كانت الهجمات السيبرانية في السابق تستهدف في الأساس تطبيقات الويب وقواعد البيانات والخوادم. أما اليوم، فقد تعلّم المهاجمون استهداف الشبكات العصبية وخوارزميات تعلّم الآلة نفسها. وتظهر الثغرات في كل مرحلة من دورة حياة النموذج، من جمع البيانات وإعدادها إلى النشر في بيئة الإنتاج (production) ثم المراقبة اللاحقة.

تشمل الفئات الرئيسية للهجمات تسميم بيانات التدريب (عندما تتسلل أمثلة خبيثة إلى مجموعة التدريب وتشوّه سلوك النموذج)، وسرقة النماذج بالكامل، والتلاعب بنتائج الاستدلال، والتحايل على أنظمة التحقق. ويمكن لأي من هذه الهجمات أن يتسبب في خسائر تبلغ عدة ملايين، أو في تسريب معلومات سرية للمستخدمين، أو في توقف حرج للخدمة.

ويدرس المهاجمون بنشاط البنية الداخلية للنماذج الشائعة مثل GPT أو LLaMA، ويبحثون عن طرق لإدخال محتوى خبيث في البيانات التي تتدرب عليها الأنظمة. وإذا كان الهجوم يتطلب في السابق وصولًا فعليًا إلى الخوادم، فإن كثيرًا من متجهات الهجوم تعمل اليوم ببساطة مع البيانات على مستوى API أو عبر مصادر المعلومات العامة.

MITRE ATLAS: حماية منظّمة

MITRE ATLAS إطار عمل لنمذجة التهديدات الخاصة بأنظمة الذكاء الاصطناعي وتعلّم الآلة تحديدًا. فبدلًا من تطبيق مناهج الأمن السيبراني القديمة على أمل أن تنجح، تحصل المؤسسات على نهج منظّم قائم على أربعة عناصر منهجية:

• بيئة الذكاء الاصطناعي (AI Среда) — المنصات السحابية والخوادم والبنية التحتية للشبكة التي تعمل عليها النماذج
• منصة الذكاء الاصطناعي (AI Платформа) — أدوات وأطر العمل للتدريب والاستدلال (TensorFlow وPyTorch وMLflow وKubernetes)
• نموذج الذكاء الاصطناعي (AI Модель) — الشبكات العصبية نفسها وخوارزميات تعلّم الآلة ومعاملاتها
• بيانات الذكاء الاصطناعي (AI Данные) — مجموعات التدريب وبيانات التحقق والبيانات الفعلية في بيئة الإنتاج

لكل عنصر من هذه العناصر الأربعة مجموعته الخاصة من التهديدات وأساليب الحماية. ولا يقتصر دور ATLAS على اكتشاف المشكلات المحتملة، بل يساعد أيضًا في ترتيب أولويات جهود الحماية، أي توجيه الموارد إلى المواضع التي يبلغ فيها الخطر ذروته وتكون عواقبه أشد على الأعمال.

من النظرية إلى التطبيق

تستخدم المؤسسات، من الشركات الناشئة إلى الشركات الكبرى، إطار ATLAS بالفعل لبناء برامجها الخاصة لأمن الذكاء الاصطناعي. ويتيح هذا النهج لفرق الأمن والمهندسين ومديري المخاطر التحدث بلغة واحدة وفهم بعضهم بعضًا بشأن التهديدات الحقيقية والتهديدات المفتعلة.

فبدلًا من التوصيات الفضفاضة من نوع «احموا النماذج من الهجمات»، يقدّم ATLAS سيناريوهات محددة وأسئلة للتحقق. كيف نحمي من تسميم البيانات التي تدخل النظام في بيئة الإنتاج؟ ما السجلات والمقاييس التي ينبغي جمعها لرصد الشذوذ في مخرجات النموذج؟ كيف نتأكد من أن تحديث إطار العمل لم يُدخل ثغرات جديدة؟ تحوّل هذه الأسئلة أمن الذكاء الاصطناعي من مفهوم مجرد إلى خطة عمل ملموسة وقابلة للتنفيذ.

وتزداد أهمية تطبيق ATLAS عند العمل مع النماذج التي تعالج بيانات حساسة، في القطاع المالي أو الرعاية الصحية أو الإدارة الحكومية. فالنهج المنظّم تجاه التهديدات يساعد على تجنب حوادث مكلفة قد تقوّض ثقة العملاء وتؤدي إلى غرامات تنظيمية.

ماذا يعني ذلك

مع دخول الذكاء الاصطناعي إلى الأنظمة الحرجة، من التشخيص الطبي إلى القرارات المالية وإدارة البنية التحتية الحيوية، يصبح أمن النماذج شأنًا لا يخص فريق تقنية المعلومات وحده، بل الأعمال بأكملها. ويساعد MITRE ATLAS على جعل هذه الحماية ملموسة وقابلة للقياس والإدارة.

وهذه خطوة أولى نحو أن يكون الذكاء الاصطناعي أداة قوية ومبتكرة، وموثوقة كذلك في التطبيقات التي تتحمل مسؤولية كبيرة.