بريطانيا توسّع البحث عن الثغرات الأمنية بالذكاء الاصطناعي: 407 ثغرات مقابل £13 000

ستوسّع حكومة المملكة المتحدة برنامجاً تبحث فيه نماذج الذكاء الاصطناعي المتقدمة عن الثغرات في أنظمة الدولة نفسها. وقد كشف المشروع التجريبي خلال شهر واحد عن 407 نقاط ضعف في تسع جهات حكومية. وبلغت تكلفة التوكنات نحو £13 000. وإلى جانب التوسيع، ستدرس السلطات إجراءات تشريعية تشمل الإبلاغ الإلزامي عن حوادث الذكاء الاصطناعي، وتنظيم مخاطر فقدان السيطرة على أنظمة الذكاء الاصطناعي.

ماذا أظهر المشروع التجريبي

يسهل إعادة حساب أرقام المشروع. فمبلغ £13 000 مقابل 407 نتائج يعني نحو £32 للثغرة الواحدة. أما لكل جهة من الجهات التسع فيبلغ المتوسط نحو 45 نتيجة وما يقارب £1 440 من النفقات. وبالنسبة إلى البيئة التقنية الحكومية، حيث تُقاس مراجعة الأمان عادةً بأيام العمل البشرية، فهذه كلفة دخول منخفضة جداً.

لكن لا بد من بعض التحفظات. فلم يُكشف في الجزء المتاح من المادة عن النماذج المستخدمة، ولا عن كيفية توزيع النتائج بحسب درجة الخطورة. كما أن عدد النتائج التي أكّدها المهندسون غير معروف. ولا يمكن مقارنة متوسط التكلفة بسعر ثغرة حرجة. ومن المؤكد أن جزءاً من السجلات الـ407 يتألف من أخطاء طفيفة في الإعدادات. غير أن حجم النتائج نفسه يدل على أن النماذج صالحة للمسح الأولي الواسع.

جزآن في الحزمة

تتألف حزمة الإجراءات من قرارين مختلفين في طبيعتهما.

الأول تشغيلي: توسيع البرنامج. فالدولة تحوّل التجربة إلى أداة عمل، وتوجّه النماذج المتقدمة إلى أنظمتها. وهذه أقصر طريق لمعرفة قدرات التقنية قبل أن يستخدمها طرف آخر.

والثاني تنظيمي، وصياغته أخف. فالسلطات «ستدرس» تشريعاً بشأن الإبلاغ عن حوادث الذكاء الاصطناعي وعن خطر فقدان السيطرة. ولا توجد التزامات حتى الآن، بل نية لدراسة المسألة. لكنها أُدرجت في حزمة واحدة مع الأمن السيبراني. والمنطق واضح: إذا كان النموذج قادراً على اكتشاف الثغرات في الأنظمة الحكومية، فينبغي أن تدخل إخفاقات النماذج نفسها في نطاق اهتمام الجهة التنظيمية. وتُظهر تجربة قطاعات أخرى، مثل الإخطارات الإلزامية بالحوادث السيبرانية، أنه لا يمكن جمع الإحصاءات من دون صيغة موحدة للإبلاغ.

اقتصاديات الدفاع

الاستنتاج الرئيسي من المشروع التجريبي اقتصادي. فإذا كان البحث عن الثغرات يكلّف عشرات الجنيهات للنتيجة الواحدة، فإن الحساب نفسه ينطبق على المهاجمين. والوصول إلى النماذج المتقدمة ليس امتيازاً حكومياً، ما يعني أن الفترة الفاصلة بين ظهور الثغرة واستغلالها تضيق على الجميع. ولا خيار أمام المدافعين سوى البحث أبكر وبكلفة أقل مما يفعل الخصم.

أبرز معطيات المشروع التجريبي:

• 407 ثغرات مكتشفة خلال شهر واحد؛
• 9 جهات حكومية في العيّنة؛
• نحو £13 000 تكاليف توكنات؛
• نحو £32 للنتيجة الواحدة؛
• في المتوسط 45 نتيجة لكل جهة.

ما الذي ينبغي أن تفعله فرق الأمن

ينبغي للفرق الحكومية وفرق الشركات إعادة الحساب على بياناتها الخاصة. ولذلك يلزم اختيار نطاق محدود وتخصيص شهر من الوقت، ثم قياس ثلاثة أمور: نسبة النتائج المؤكَّدة، وتكلفة التحقق من النتيجة الواحدة، ونسبة الإنذارات الكاذبة. والأرجح أن التحقق، لا التوكنات، سيكون البند الأكبر في النفقات.

الأمر الثاني: التفكير مسبقاً في كيفية توثيق الحوادث التي تشارك فيها أنظمة الذكاء الاصطناعي. فإذا أصبح الإبلاغ في بريطانيا إلزامياً، فإن الشركات التي لديها بالفعل صيغة لتسجيل الأعطال ستخسر وقتاً أقل في التكيّف. والأمر الثالث: متابعة صياغات مشروع القانون المستقبلي بشأن فقدان السيطرة. فلا يزال من غير الواضح أي الأنظمة ستشملها أحكامه، وما العتبات التي ستُحدَّد للنماذج «المتقدمة». ويتوقف على الإجابة عن هذا السؤال ما إذا كان التنظيم سيطال المختبرات وحدها أم أيضاً من يدمجون نماذجها في المنتجات.