بريطانيا توسّع البحث عن الثغرات بالاستعانة بالذكاء الاصطناعي: 407 ثغرات بتكلفة 13000 جنيه إسترليني

برنامج البحث عن الثغرات عبر نماذج الذكاء الاصطناعي المتقدمة

أعلن مجلس الوزراء البريطاني هذا الأسبوع عن توسيع برنامج البحث عن الثغرات في الأنظمة الحكومية باستخدام نماذج الذكاء الاصطناعي المتقدمة. وأعلنت عن هذه المبادرة جهات هي Cabinet Office وAI Security Institute وNational Cyber Security Centre ووزارة الثقافة.

وقدّم كانيشكا ناراين، الذي انضم إلى مجلس الوزراء بصفته أول وزير للذكاء الاصطناعي في يوليو، هذا البرنامج في Imperial College London. وهدفه هو جعل بريطانيا «واحدة من أكثر الدول حماية في العالم من استخدام الذكاء الاصطناعي بشكل ضار».

كشف مشروعان تجريبيان عن أكثر من 1000 ثغرة محتملة في أنظمة الجهات الحكومية. وكشف أحدهما، وهو موثّق بشكل جيد بصفة خاصة، عن 407 مشاكل خلال شهر واحد عبر هاكاثونات أسبوعية، شملت تسع جهات حكومية. وبلغت التكلفة الإجمالية لهذه المرحلة 13000 جنيه إسترليني مقابل رموز نماذج الذكاء الاصطناعي.

ثلاث منهجيات للبحث عن الثغرات

اختار المشاركون في المشروع التجريبي أساليب العمل الخاصة بهم وطبّقوا ثلاثة أساليب مختلفة جوهريًا:

• سلسلة من ستة مراحل للعملاء الآليين — بنية يتحقق فيها كل عميل لاحق من نتائج العميل السابق ويعترض عليها، مما يضمن التحقق المتبادل من النتائج • نماذج متعددة الطبقات فوق أدوات المسح الكلاسيكية — دمج نماذج الذكاء الاصطناعي المتقدمة مع أدوات الأمن التقليدية • تقطير مستند إلى Claude Skills — تحويل تدقيق مئات الخدمات إلى خمس مهارات متخصصة للبحث الموجّه

ووُجدت أخطر ثغرة مكتشفة في GitHub Actions القديم في مستودع لأحد الخدمات الحكومية الرئيسية. فقد كان تعليق مُعدّ خصيصًا في طلب سحب (pull request) مفتوح قادرًا على تشغيل تعليمات برمجية عشوائية على جهاز البناء (build machine) والوصول إلى أسراره.

الخطر: العملاء الآليون يعملون أسرع من قدرة البشر على التحقق

تشير الحكومة البريطانية صراحة إلى الخطر الرئيسي لهذا النهج: يكتشف عملاء الذكاء الاصطناعي الآليون الثغرات المرشحة أسرع من قدرة البشر على التحقق منها. وتؤكد وثائق المشروع التجريبي: «العثور على ثغرة لا يعني إصلاحها».

ووجّه ناراين رسالة أيضًا إلى مطوّري أنظمة الذكاء الاصطناعي: الشركة غير القادرة على التحكم في مخاطر نظامها لا ينبغي لها إطلاقه. ومع ذلك، طلب البيت الأبيض في سبتمبر من OpenAI وAnthropic تأخير إصدار نماذج جديدة لصالح AI Security Institute. وقدّمت Anthropic نسخة مؤجّلة من Mythos 5.1.

وفي يوليو، وجدت AI Security Institute أن كل نموذج خضع للاختبار حاول خداع عملية التقييم، بل إن أحدها هاجم أنظمة التقييم نفسها.

التوسع إلى الأنظمة المغلقة والتشريع

في المرحلة التالية، سينتقل البرنامج من تحليل المستودعات العامة إلى الأنظمة الحكومية المغلقة.

كما يعتزم الوزراء تعزيز Cyber Security and Resilience Bill، بتوسيع نطاقه ليشمل المستشفيات والمرافق العامة المعرّضة لمخاطر الذكاء الاصطناعي، بما في ذلك فقدان السيطرة الكامل. ومن المقرر إقرار إبلاغ إلزامي عن حوادث الذكاء الاصطناعي وعن ما يُسمى «حالات الاقتراب من الحادث».

وسيحتل الذكاء الاصطناعي مكانة محورية في جدول أعمال رئاسة بريطانيا لمجموعة العشرين العام المقبل.