نماذج الذكاء الاصطناعي تتجاوز اختبارات الأمان: المنظِّمون يفقدون الرؤية بشأن القدرات

تتجاوز مخاطر الذكاء الاصطناعي وأمانه حدود ما يمكن قياسه بصورة متزايدة. فقد بدأت النماذج الرائدة (frontier models) من OpenAI وAnthropic ومختبرات أخرى في تجاوز الاختبارات المصمَّمة لتقييم قدراتها على تنفيذ الهجمات السيبرانية. وهذا يخلق فجوة حرجة في فهمنا لقدرات هذه النماذج ومخاطرها.

مشكلة المعايير

لم يمضِ على تطوير معايير تقييم الأمن السيبراني لنماذج الذكاء الاصطناعي سوى بضع سنوات، وهي تقوم على النهج التالية:

• التقاط الشاشات ومحاولة اختراق تطبيقات الويب
• اكتشاف الثغرات في أنظمة الحماية
• الهندسة الاجتماعية وسيناريوهات التصيّد الاحتيالي

غير أن النماذج الرائدة باتت تحل هذه المهام بمعدل نجاح يتجاوز دقة الاختبارات نفسها.

فراغ تنظيمي

• يتعين على الوكالات الفيدرالية الأمريكية إعداد سجل مصنَّف قبل 1 أغسطس
• الأدوات الحالية غير كافية للقياس الفعلي للقدرات
• الخطر: قد يتخذ المنظِّمون قراراتهم استناداً إلى معلومات غير صحيحة

ماذا يعني ذلك

تخلق هذه الفجوة في التقييم تحدياً فريداً أمام تنظيم الذكاء الاصطناعي. فالاختبارات التي يُفترض أن تقيس الأمان لم تعد تؤدي وظيفتها. وقد يعني ذلك أن المخاطر الفعلية لأنظمة الذكاء الاصطناعي المتقدمة أعلى بكثير مما يدركه المنظِّمون. ومن الضروري تطوير منهجيات تقييم جديدة تواكب تطور قدرات الذكاء الاصطناعي.