Anthropic: Claude Mythos Preview اكتشفت آلاف الثغرات الحرجة في الكود

أظهرت Anthropic مدى سرعة تغير الأمن السيبراني في عصر الذكاء الاصطناعي التوليدي: تمكن نموذجها Claude Mythos Preview من تحديد آلاف الثغرات الأمنية عالية ومستوى حرجة، بما في ذلك المشاكل في أنظمة التشغيل الشهيرة والمتصفحات والمكتبات التشفيرية. لكن الاستنتاج الرئيسي ليس أن الذكاء الاصطناعي تعلم العثور على الأخطاء بشكل أفضل. فالقدرات ذاتها التي تساعد في تحديد نقاط الضعف في الكود يمكن أن تستخدم لاستغلالها أيضاً، لذلك الآن تتطلب أتمتة الأمان ليس فقط السرعة، بل وقواعد تحكم جديدة.

في أوائل أبريل، أبلغ فريق Frontier Red Team داخل Anthropic عن أن Mythos Preview اكتشف العديد من المشاكل الخطيرة، على الرغم من أن النموذج لم يتم تدريبه بشكل محدد للبحث عن مثل هذه الثغرات الأمنية. وفقاً للشركة، من بين الاكتشافات عيوب في جميع أنظمة التشغيل الرئيسية والمتصفحات الأساسية تقريباً. تشمل الأمثلة المذكورة خطأ يبلغ من العمر 27 سنة في OpenBSD يسمح بتعطيل الآلة عن بعد، وثغرة في المتصفح يمكن من خلالها لمهاجم قراءة البيانات من نطاق آخر، وضعف في المكتبات التشفيرية يمكن أن يفتح الطريق لفك تشفير حركة المرور المحمية أو تزييف الشهادات.

في خضم هذه النتائج، أطلقت Anthropic مشروع Glasswing. يشارك في المشروع Amazon Web Services و Apple و Google و Microsoft و Nvidia، وتكليف الشراكة بسيط: استخدام Mythos Preview لفحص البرامج وتعزيز حمايتها. المنطق واضح.

إذا كانت نماذج اللغة الكبيرة قادرة بالفعل على تحليل قواعد أكواد ضخمة، وتتبع تدفق البيانات بين المكونات، وملاحظة الروابط غير التافهة بين الأخطاء، فإنها تصبح أكثر من مجرد أداة تحليل ثابتة أخرى—فتصبح أداة تبدأ في بعض الطرق بالاقتراب من عمل باحث الأمان الحي. وينتبه لهذا الممارسون من الصناعة أيضاً. يشيرون إلى أن نقاط القوة في هذه النماذج ليست فقط السرعة، على الرغم من أنها مهمة بحد ذاتها، بل القدرة على التفكير في دلالات الكود.

تبحث الأدوات التقليدية ذات القواعد الصارمة بشكل أساسي عن مطابقات النمط ضد القوالب المحددة مسبقاً، في حين أن أنظمة LLM الحديثة يمكنها أن تتتبع كيف تتدفق البيانات عبر مستويات مختلفة من التجريد وتلاحظ مشكلة تنشأ فقط عند تقاطع عدة مكونات. بالنسبة للمستودعات الكبيرة، هذا مهم بشكل خاص: يمكن لوكيل الذكاء الاصطناعي أن يجد بسهولة أكبر إبرة نادرة لكن خطيرة في كومة ضخمة من الكود. ومع ذلك، لهذا النهج جانب عكسي.

تنتج النماذج بالفعل نتائج إيجابية كاذبة، قد تسيء تصنيف خطأ كثغرة أمنية أو تبالغ في خطورة المشكلة. بالنسبة للأشخاص الذين يحافظون على مشاريع المصدر المفتوح، يصبح هذا عبئاً إضافياً: ينمو عدد التقارير، والوقت المستغرق في مراجعة كل إشارة يزداد. هناك خطر آخر أيضاً وهو أن أدوات الذكاء الاصطناعي لا يمكن فقط مهاجمتها—على سبيل المثال، من خلال حقن المطالبات—بل يمكن استخدامها أيضاً كآلية هجومية.

يُزعم أن نفس Mythos Preview يمكنه ربط عدة عيوب منفصلة في سلسلة استغلال خطوة بخطوة التي تمنح في النهاية وصول مستوى الجذر إلى نواة Linux. لهذا السبب يتحدث الخبراء عن عدم استبدال البشر بالكامل، بل عن مخطط التحقق المتعدد المستويات. أحد الأساليب المستخدمة بالفعل في الصناعة هو المراجعة الذاتية العدائية: يجد النموذج أولاً مشكلة، ثم يحاول الطعن في استنتاجه الخاص أو ينقل الاكتشاف إلى نموذج آخر للتحقق المستقل.

تساعد هذه الطبقة الإضافية على تقليل الضوضاء، لكنها لا تلغي المراجعة اليدوية. تبقى استنتاجات الذكاء الاصطناعي احتمالية، مما يعني أن القرار النهائي يجب أن يتخذه متخصص يفهم المنطق التجاري للمنتج وعمارة النظام وسيناريوهات الاستغلال الحقيقية. تُنصح الشركات بالإضافة إلى ذلك بتطوير نمذجة التهديدات الديناميكية و red teaming وتحويل الأمان إلى بداية عملية التطوير، بحيث يزيل المطورون نقاط الضعف أثناء كتابة الكود، بدلاً من بعد الإصدار.

السؤال الرئيسي الآن ليس حتى ما إذا كان يمكن للذكاء الاصطناعي أن يجد الثغرات الأمنية بشكل أفضل وأسرع من البشر، بل كيفية دمجه في عملية عمل آمنة. الحدود التالية لهذه الأنظمة ليست فقط الكشف بل أيضاً الإصلاح على نطاق واسع للمشاكل المكتشفة. إذا كان يمكن أتمتة هذه المرحلة بدون فقدان الجودة وبدون التخلي عن التحكم البشري، فسوف يسرع تطوير البرامج الآمنة بشكل ملحوظ.

إن لم يحدث ذلك، فستحصل الصناعة على أداة قوية أخرى لكنها صاخبة تخلق قدراً من العمل حيث تدخره.