Hugging Face: يمنح AI المفتوح المدافعين القدرات نفسها التي لدى المهاجمين

نشرت Hugging Face مقالاً شاملاً حول كيفية تغيير الذكاء الاصطناعي لميزان القوى في الأمن السيبراني — ولماذا تكون انفتاحية النماذج والأدوات مهمة بقدر قدراتها. في قلب المقالة يوجد نظام Mythos: نموذج لغة مع أدوات متخصصة مصممة للعثور على الثغرات الأمنية وإصلاحها. يؤكد المؤلفون أن قدرات هذه الأنظمة غير خطية. يمكن لنموذج صغير مدمج في خط أنابيب وكلاء مصمم بشكل جيد مع خبرة في المجال أن ينافس الحلول المملوكة الأكبر بكثير — وهذا مهم بشكل خاص للمدافعين ذوي الميزانيات المحدودة.

الحجة الأساسية هي الميزة الهيكلية للأنظمة البيئية المفتوحة. عند اكتشاف ثغرة أمنية، تتكون الدورة من أربع مراحل: الاكتشاف والتحقق والتنسيق وتوزيع التصحيحات. يمر البائعون المملوكون بجميع المراحل الأربع داخل منظمة واحدة — نقطة فشل واحدة. توزع المجتمعات المفتوحة كل مرحلة بين فرق متعددة: فريق أمان نواة لينكس وFoundation Open Source Security وخبراء Hugging Face في أمان سلسلة التوريد للنماذج. المهاجم الذي اخترق عقدة واحدة لا يوقف النظام البيئي بأكمله.

يتم التطرق إلى أسطورة 'الأمن من خلال الغموض' بشكل منفصل. يشير المؤلفون إلى أن أدوات الذكاء الاصطناعي قادرة بالفعل على المساعدة في الهندسة العكسية للملفات الثنائية بدون كود مصدري. تصبح طبقة ضخمة من البرامج الثابتة القديمة والكود المدمج — المملوك والثنائي وغير المدعوم منذ فترة طويلة — في متناول التحليل الآلي بشكل متزايد. الكود المملوك لا يحمي من الهجمات؛ فهو يبطئ فقط المدافعين الذين لا يملكون الوصول إلى الكود المصدري.

يقترح المؤلفون معمارية دفاع ملموسة: وكلاء شبه ذاتيين قائمين على الكود المفتوح. يعمل الوكيل ضمن حدود محددة مسبقاً، والخطوات الحرجة تتطلب تأكيداً بشرياً، وسلوك النظام بالكامل يمكن تدقيقه من خلال السجلات المفتوحة والتتبعات. 'الإنسان في حلقة التحكم منطقي فقط عندما يتمكن من النظر داخل الحلقة' — الصيغة الأساسية للمقالة. الأنظمة المملوكة لا تسمح بهذا.

بالنسبة للمنظمات ذات البيانات الحساسة، توفر الحلول المفتوحة ميزة إضافية: يمكن نشرها بالكامل ضمن البنية الأساسية الخاصة بها، وضبطها على البيانات الداخلية، وتخصيصها للمتطلبات المحددة — دون نقل البيانات إلى مزودي خدمات خارجيين.

الخلاصة التي توصل إليها المؤلفون: سيتم تحديد مستقبل الأمن السيبراني المدعوم بالذكاء الاصطناعي ليس بواسطة النماذج الفردية، بل بواسطة الأنظمة البيئية حولها. توفر الأنظمة المفتوحة للمدافعين الرؤية والتحكم والمجتمع والبنية الأساسية المشتركة — بالضبط ما ينقص في الدفاع المعزول باستخدام الأدوات المملوكة.