Habr تطلق سلسلة عن أمن الذكاء الاصطناعي: 4 ولايات قضائية و4 منهجيات للحماية

نشرت Habr AI الجزء الأول من سلسلة عن أمن أنظمة الذكاء الاصطناعي في عام 2026. تغطي المقالة الأطر التنظيمية في أربع ولايات قضائية (روسيا والصين والاتحاد الأوروبي والولايات المتحدة)، وأربع منهجيات للحماية: STRIDE وOWASP وAI-SAFE وSAIMM. ويصف الكتّاب ذلك بأنه الحد الأدنى من المعرفة الذي يحتاجه كل متخصص في أمن الذكاء الاصطناعي. ولا يتضمن إعلان المادة تحليلًا لقواعد بعينها، لذلك نعرض فيما يلي ما أُعلن عنه والسياق الذي تكتسب فيه المادة أهميتها.

ظل أمن تعلّم الآلة موضوعًا هامشيًا لفترة طويلة. كانت تعمل عليه مجموعات بحثية قليلة، ولم يكن يصدر فيه سوى نحو عشر ورقات في السنة، ولم تكن هناك أدوات عملية تقريبًا. تغيّر الوضع عندما انتقلت نماذج اللغة الكبيرة (LLM) والأنظمة الوكيلية إلى بيئات الإنتاج. فالنموذج صار يستدعي الأدوات، ويقرأ بيانات خارجية، ويتخذ قرارات نيابة عن المستخدم. واتسع سطح الهجوم، فيما وجدت الشركات نفسها مسؤولة عن العواقب.

أربع ولايات قضائية، وأربعة منطقيات تنظيمية

تقارن المقالة التنظيم في روسيا والصين والاتحاد الأوروبي والولايات المتحدة. وتختلف المقاربات هناك اختلافًا واضحًا، وهذا معروف من السياق العام.

• بنى الاتحاد الأوروبي قانونًا أفقيًا للذكاء الاصطناعي (AI Act) يقوم على تدرّج مستويات المخاطر، ويفرض التزامات مستقلة على مطوّري النماذج ذات الأغراض العامة. وقد نوقشت مواعيد تطبيق جزء من المتطلبات وجرى تعديلها، لذا ينبغي التحقق من المواعيد الحالية في المصدر الأصلي.
• تنظّم الصين فئات محددة من الأنظمة: الذكاء الاصطناعي التوليدي، وتوصيات الخوارزميات، ووسم المحتوى الاصطناعي. وهي مجموعة متطلبات موضعية وليست قانونًا واحدًا.
• تعتمد الولايات المتحدة على مزيج من الأطر الفيدرالية مثل NIST AI RMF، والمتطلبات القطاعية، وقوانين كل ولاية على حدة.
• تطوّر روسيا منظومتها الخاصة من القواعد والمعايير. أما أي الأنظمة والمعايير يعدّها الكتّاب أساسية، فلا يتضح من الإعلان.

وهذا يعني أن الشركة التي تعمل في عدة أسواق تواجه عدة مسارات امتثال متوازية. ولا يوجد حتى الآن معيار موحد.

المنهجيات: ما نأخذه من الخارج وما لدينا محليًا

يخصص النصف الثاني من المقالة لمنهجيات الحماية. STRIDE نموذج كلاسيكي لتحديد التهديدات ظهر قبل LLM بزمن طويل، ويُطبَّق على أنظمة الذكاء الاصطناعي كوسيلة لتنظيم المخاطر. أما OWASP فمعروفة بقوائمها التطبيقية للثغرات، ومنها قوائم التطبيقات المبنية على نماذج اللغة الكبيرة. وفيما يخص AI-SAFE وSAIMM الروسيتين، فلا يتجاوز الإعلان ذكر اسميهما: لا بنية ولا معايير نضج ولا نطاق تغطية. ولن يمكن الحكم على نقاط قوتهما وضعفهما إلا بعد قراءة النص الكامل.

والجمع بين الطرفين لافت بحد ذاته. فالمنهجيات الغربية توفّر لغة مشتركة لمناقشة التهديدات. أما الروسية، فيبدو أنها مرتبطة بالتنظيم المحلي وبممارسات الاعتماد والمطابقة. وسيتعيّن على المتخصص أن يتقن الطبقتين معًا.

ما الذي ينبغي أن تفعله الفرق الآن؟

إلى أن تصدر السلسلة كاملة، هناك عدة خطوات لا تحتاج إلى انتظار.

1. أعدّوا سجلًا بأنظمة الذكاء الاصطناعي في الشركة: أي النماذج والوكلاء تعمل، وبأي بيانات، وبأي صلاحيات وصول. 2. حدّدوا الولايات القضائية التي يخضع لها كل نظام. والمعيار ليس مكان تسجيل الشركة، بل مكان وجود المستخدمين والبيانات. 3. أجروا نمذجة للتهديدات وفق STRIDE لأكثر السيناريوهات الوكيلية حساسية، خصوصًا تلك التي يستطيع فيها النموذج التصرف داخل أنظمة خارجية. 4. قابلوا المخاطر التي رصدتموها بقوائم OWASP الخاصة بتطبيقات LLM، وتحقّقوا من الضوابط الموجودة لديكم بالفعل. 5. انتظروا تحليل AI-SAFE وSAIMM، ثم قيّموا مدى انسجامهما مع عملياتكم الداخلية ومتطلبات الجهات التنظيمية.

تستهدف السلسلة، بحسب تصور كتّابها، الممارسين العمليين. ويضع الجزء الأول الإطار العام، أما قيمة السلسلة بأكملها فستتضح عندما تظهر تحليلات لهجمات وضوابط محددة.