نماذج الذكاء الاصطناعي تتفوق على اختبارات الأمان: ينقد المنظمون الرؤية حول القدرات
توقفت الأدوات المبنية لقياس مخاطر الذكاء الاصطناعي عن العمل. تتجاوز نماذج الحدود الآن المعايير المصممة لتقييم قدرات الاختراق. هذا يخلق نقطة عمياء للمنظمين وخبراء الأمان. وفقًا للتقديرات، يجب على الوكالات الفيدرالية الأمريكية بحلول 1 أغسطس 2026 إنشاء سجل مصنف لقدرات الهجوم السيبراني لأنظمة الذكاء الاصطناعي، لكن الاختبارات الحالية لم تعد كافية.
معالج بواسطة الذكاء الاصطناعي من TNW؛ بتحرير Hamidun News
الأمان والمخاطر المرتبطة بالذكاء الاصطناعي تتجاوز بشكل متزايد ما يمكن قياسه. بدأت نماذج الحدود من OpenAI و Anthropic ومختبرات أخرى في تجاوز الاختبارات المصممة لتقييم قدراتها على الهجمات السيبرانية. وهذا يخلق فجوة حرجة في فهمنا للقدرات والمخاطر.
مشكلة المعايير
تم تطوير معايير تقييم الأمن السيبراني لنماذج الذكاء الاصطناعي قبل سنوات قليلة فقط وتتبع هذه الأساليب:
- التقاط الشاشة ومحاولات اختراق تطبيقات الويب
- الكشف عن الثغرات الأمنية في الأنظمة الأمنية
- سيناريوهات الهندسة الاجتماعية والتصيد الاحتيالي
ومع ذلك، تحل نماذج الحدود الآن هذه المهام باحتمالية تفوق دقة الاختبارات.
الفراغ التنظيمي
- يجب على الوكالات الاتحادية الأمريكية إعداد سجل مصنف بحلول 1 أغسطس
- الأدوات الحالية غير كافية لقياس القدرات الفعلية
- المخاطرة: قد يتخذ المنظمون قرارات بناءً على معلومات غير صحيحة
ماذا يعني هذا
يخلق هذا الفراغ في التقييم تحدياً فريداً لتنظيم الذكاء الاصطناعي. الاختبارات التي يجب أن تقيس الأمان لم تعد تعمل. قد يعني هذا أن الأخطار الحقيقية من الأنظمة المتقدمة للذكاء الاصطناعي أعلى بكثير مما يفهمه المنظمون. من الضروري تطوير منهجيات تقييم جديدة تواكب تطور قدرات الذكاء الاصطناعي.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.