Hugging Face: الذكاء الاصطناعي المفتوح يمنح المدافعين الإمكانات نفسها التي يملكها المهاجمون

نشرت Hugging Face مادة مفصّلة حول كيفية تغيير الذكاء الاصطناعي لموازين القوى في الأمن السيبراني، ولماذا لا تقلّ أهمية انفتاح النماذج والأدوات عن قوتها. ويتمحور المقال حول نظام Mythos، وهو نموذج لغوي مزوّد ببنية مساندة متخصصة بدقة لاكتشاف الثغرات الأمنية وإصلاحها. ويؤكد المؤلفون أن قدرات هذه الأنظمة ليست خطية. فبإمكان نموذج صغير، مدمج في خط معالجة وكيلي مصمَّم بإتقان ويستند إلى خبرة في المجال، أن ينافس حلولًا مغلقة أكبر منه بكثير، وهذا مفيد بوجه خاص للمدافعين ذوي الميزانيات المحدودة.

الحجة المركزية هي الميزة الهيكلية للمنظومات المفتوحة. فعند اكتشاف ثغرة، تمر دورة المعالجة بأربع مراحل: الاكتشاف، والتحقق، والتنسيق، وتوزيع الإصلاح. وتنفّذ الجهات المغلقة المراحل الأربع كلها داخل مؤسسة واحدة، وهذه نقطة فشل واحدة. أما المجتمعات المفتوحة فتوزّع كل مرحلة على فرق عدة: فريق أمن نواة Linux، وOpen Source Security Foundation، وخبراء Hugging Face في أمن سلسلة توريد النماذج. والمهاجم الذي يخترق عقدة واحدة لا يوقف المنظومة بأكملها.

ويتناول المقال بشكل منفصل أسطورة «الأمن عبر الغموض». فيشير المؤلفون إلى أن أدوات الذكاء الاصطناعي قادرة بالفعل على المساعدة في الهندسة العكسية للملفات الثنائية التي لا تتوافر لها شيفرة مصدرية. وهناك طبقة ضخمة من البرمجيات الثابتة القديمة (legacy firmware) والشيفرات المضمّنة، المغلقة والثنائية وغير المدعومة منذ زمن، أصبحت متاحة أكثر فأكثر للتحليل الآلي. فالشيفرة المغلقة لا تحمي من الهجمات، بل تبطئ المدافعين الذين لا يملكون إمكانية الوصول إلى الشيفرة المصدرية.

ويقترح المؤلفون بنية دفاعية محددة: وكلاء شبه مستقلون مبنيون على شيفرة مفتوحة. يعمل الوكيل ضمن حدود محددة مسبقًا، وتتطلب الخطوات الحرجة موافقة بشرية، ويمكن تدقيق سلوك النظام بالكامل عبر سجلات وآثار تتبّع مفتوحة. وتتلخص العبارة المحورية في المقال بأن «وجود الإنسان في حلقة التحكم لا معنى له إلا إذا كان بإمكانه النظر داخل هذه الحلقة». والأنظمة المغلقة لا تتيح ذلك.

أما المؤسسات التي تتعامل مع بيانات حساسة، فتمنحها الحلول المفتوحة ميزة إضافية: يمكن تشغيلها بالكامل داخل البنية التحتية الخاصة بها، وإجراء تدريب إضافي عليها باستخدام البيانات الداخلية، وتهيئتها وفق متطلبات محددة، دون تسليم البيانات إلى مزوّدين خارجيين.

وخلاصة المؤلفين أن مستقبل الأمن السيبراني القائم على الذكاء الاصطناعي لن تحدده نماذج منفردة، بل المنظومات المحيطة بها. فالأنظمة المفتوحة تمنح المدافعين الرؤية والتحكم والمجتمع والبنية التحتية المشتركة، وهذا بالضبط ما ينقص الدفاع المعزول القائم على أدوات مملوكة.