وزارة التنمية الرقمية الروسية والاتحاد الأوروبي ومعهد NIST يضعون قواعد جديدة لأمن الذكاء الاصطناعي وتنظيمه

أصدرت Security Vision تحليلًا موسّعًا حول كيفية تشكّل منظومة جديدة من القواعد والمعايير والممارسات الوقائية حول الذكاء الاصطناعي بوتيرة سريعة. ولا تقتصر الأولوية على القوانين وحدها، بل تشمل أيضًا قضايا عملية بحتة: تسريب البيانات وهجمات prompt injection وسرقة النماذج والرقابة على الأنظمة الوكيلة (agentic systems).

كيف يُنظَّم الذكاء الاصطناعي

في روسيا، لا يزال المرسوم رقم 490 الصادر في 10 أكتوبر 2019 والاستراتيجية المحدّثة لتطوير الذكاء الاصطناعي حتى عام 2030 نقطة الانطلاق الأساسية. وبعد ذلك ظهرت تجربة تنظيمية في موسكو، ومشروع مفهوم لتنظيم الذكاء الاصطناعي حتى عام 2030 أعدّته وزارة التنمية الرقمية (Минцифры) و«التحالف في مجال الذكاء الاصطناعي»، إضافةً إلى مدونة أخلاقيات أصدرها البنك المركزي للسوق المالية. والاتجاه العام واضح: تشجيع تبنّي الذكاء الاصطناعي، مع اشتراط الشفافية وحماية البيانات وإدارة المخاطر والرقابة البشرية في الوقت نفسه.

أما في الخارج فيزداد الإطار صرامة. ففي الاتحاد الأوروبي يسري بالفعل EU AI Act، الذي يقسّم الأنظمة إلى مستويات مخاطر: غير مقبول وعالٍ وعادي. وتتراوح متطلباته بين حظر مباشر لأنظمة التصنيف الاجتماعي وعدد من الممارسات البيومترية، وبين إلزام بسجلات التشغيل والإشراف البشري ومتطلبات الأمن السيبراني. وأصدرت الولايات المتحدة في عام 2025 خطة AI Action Plan التي تركّز على تسريع الابتكار والبنية التحتية ومبدأ secure by design. وتشدّد الصين وسم المحتوى المولَّد بالذكاء الاصطناعي، وأقرّت كوريا الجنوبية وكازاخستان قوانين خاصة بهما، بينما تبني الأمم المتحدة واليونسكو ومجموعة بريكس منصة دولية لقواعد مشتركة.

المعايير والرقابة

بالتوازي مع القوانين، تنمو طبقة المعايير والأطر بسرعة. فقد أُعدّت في ISO وIEC وثائق بشأن المصطلحات وإدارة المخاطر ودورة حياة الذكاء الاصطناعي وتقييم المتانة (robustness) وأمن البيانات. وتقابلها في روسيا معايير GOST جديدة، بينما يطوّر NIST في الولايات المتحدة إطار AI Risk Management Framework، الذي أصبح من أبرز المخططات العملية للشركات. ومنطقه بسيط: لا جدوى من الجدل حول الذكاء الاصطناعي في فراغ، بل ينبغي دمج مخاطره في الإدارة المعتادة للمنتج والأمن والتطوير.

• Govern — تعيين المسؤولين ووضع السياسات والعمليات المتعلقة بمخاطر الذكاء الاصطناعي
• Map — فهم السياق وسيناريوهات الاستخدام والأضرار المحتملة
• Measure — التحقق من الموثوقية والدقة وفاعلية إجراءات الحماية
• Manage — ترتيب المخاطر حسب الأولوية والحدّ من الضرر وتوثيق القرارات

وتتشكل في الوقت نفسه طبقة من الأطر المتخصصة: يصنّف MITRE ATLAS تكتيكات الهجمات على الذكاء الاصطناعي، وتجمع OWASP المخاطر الحرجة لنماذج LLM والأنظمة الوكيلة، وتطوّر Google إطار SAIF، فيما تنشر كبرى الشركات أطرها الخاصة للسلامة والجاهزية (safety وpreparedness frameworks). وتكمن أهمية ذلك في أمر واحد: لم يعد أمن الذكاء الاصطناعي يقتصر على حماية الخادم أو API. فصار لزامًا تقييم سلوك النموذج وجودة البيانات والقدرة على مقاومة التلاعب والعواقب على المستخدم.

أين يُخترق الذكاء الاصطناعي

للذكاء الاصطناعي سطح هجوم خاص به. فالنماذج اللغوية الكبيرة لا تميّز جيدًا بين البيانات والتعليمات، ولذلك قد يتحول نص خبيث في صفحة ويب أو رسالة بريد أو مستند إلى أمر ينفّذه الوكيل. ومن هنا تتزايد هجمات prompt injection المباشرة وغير المباشرة، وكذلك jailbreak وextraction وdata poisoning. وإذا كان النظام متصلًا بالبريد الإلكتروني أو CRM أو مخزن الملفات أو خدمات خارجية، ترتفع كلفة الخطأ بشدة: فالمهاجم لا يكتفي بالحصول على إجابة غريبة، بل قد يصل إلى بيانات الشركة أو يدفع الوكيل إلى تنفيذ إجراء غير مرغوب فيه.

أما منطقة الخطر الكبرى الثانية فهي البيانات نفسها. فتواجه الشركات بوتيرة متزايدة ظاهرة Shadow AI، أي رفع الموظفين وثائق داخلية إلى روبوتات دردشة عامة دون موافقة. وأوردت IBM تقديرًا يفيد بأن 13% من الشركات المشاركة في الاستطلاع أبلغت بالفعل عن تسريبات عبر الذكاء الاصطناعي. وإذا أضفنا إلى ذلك سرقة مفاتيح API لأغراض LLM jacking، واحتمال نسخ النماذج عبر التقطير (distillation)، ومشكلة الهلوسات الناتجة عن البيانات الاصطناعية، يتضح لماذا لم تعد grounding وzero data retention وMLSecOps وDLP خيارات اختيارية. ومن الاتجاهات المستقلة أن المهاجمين أنفسهم يستخدمون أدوات الوكلاء لأتمتة الاختراق وخفض عتبة الدخول إلى الجريمة السيبرانية.

ماذا يعني ذلك

يدخل سوق الذكاء الاصطناعي مرحلة لا يفوز فيها من أطلق النموذج أسرع فحسب، بل من يستطيع إثبات موثوقيته وقابليته للتفسير وأمانه. وبالنسبة للأعمال، هذا يعني أمرًا واحدًا: لم يعد ممكنًا إطلاق الذكاء الاصطناعي بوصفه «خدمة SaaS أخرى»، فهو يحتاج إلى قواعد وصول منفصلة، ورقابة على البيانات، وتدقيق للتكاملات، وفحص دوري ضد الهجمات.