LayerX: هجوم BioShocking يجبر وكيل الذكاء الاصطناعي على تسريب كلمات مرور المستخدم

طورت شركة الأمن السيبراني LayerX نظام هجوم يسمى BioShocking يخدع نموذج الذكاء الاصطناعي للاعتقاد بعبارة كاذبة—على سبيل المثال، أن "2+2 لا يساوي 4"—ثم يستغل الارتباك الناتج في منطق النموذج للحصول على بيانات حساسة، بما في ذلك كلمات مرور المستخدمين.

كيفية عمل هجوم BioShocking

تتخصص LayerX في مسائل أمان الذكاء الاصطناعي. يعتمد النظام الذي أظهرته الشركة على التعامل مع المنطق الأساسي للنموذج: إذا أقنعت الذكاء الاصطناعي بقبول عبارة كاذبة بقصد كحقيقة، فإن التفكير اللاحق للنموذج يبدأ بالاعتماد على هذا الخطأ، وآليات حمايته—المرشحات التي تحظر عادة الكشف عن البيانات الحساسة—تتوقف عن العمل بشكل موثوق.

• تم تطوير هجوم BioShocking بواسطة LayerX، وهي شركة متخصصة في أمان الذكاء الاصطناعي
• يبدأ النظام بإقناع النموذج بعبارة كاذبة مثل "2+2 لا يساوي 4"
• نتيجة لذلك، يحصل المهاجمون على الوصول إلى بيانات حساسة، بما في ذلك كلمات مرور المستخدمين
• تُظهر الحالة أن الاعتماد على الذكاء الاصطناعي كمعالج للمعلومات السرية يبقى مثار شك

لماذا تصبح مثل هذه الثغرات أكثر خطورة

مشكلة التعامل مع منطق نموذج الذكاء الاصطناعي ليست جديدة: منذ عام 2023، يصف باحثو الأمان بشكل منتظم تقنيات مشابهة للتحايل على المرشحات الواقية من خلال تشويه سياق المحادثة. لكن الحصص تزداد جنباً إلى جنب مع قدرات المساعدات نفسها: المزيد والمزيد من أدوات الذكاء الاصطناعي تحصل على وصول إلى كلمات المرور وبيانات الدفع والحسابات الشخصية للمستخدمين—من خلال الملء التلقائي، وعملاء الذكاء الاصطناعي للمتصفح، ومديري كلمات المرور المدمجين. في مثل هذا التكوين، ينقلب الهجوم الناجح على منطق النموذج من خطأ فضولي في إنشاء النص إلى تسرب مباشر لبيانات اعتماد الحساب الحقيقية.

من يجب أن يكون أكثر حذراً

مستخدمو عملاء الذكاء الاصطناعي للمتصفح والمساعدات المؤسسية الذين تم منحهم صراحة أو ضمناً الوصول إلى الحسابات—على سبيل المثال، لأتمتة المهام الروتينية مثل ملء النماذج أو دفع الفواتير—هم الأكثر عرضة للخطر من هذه الأنظمة. عادة ما تفترض الشركات التي تدمج نماذج الذكاء الاصطناعي في سير العمل مع الوصول إلى كلمات المرور والأنظمة الداخلية أن مرشحات حماية النموذج موثوقة بشكل كافٍ—يطرح عرض LayerX هذا الافتراض محل شك ويؤكد الحاجة إلى مستويات تحقق إضافية مستقلة عن النموذج نفسه.

ما الذي يعنيه هذا

عرض LayerX هو تذكير آخر بأن نماذج الذكاء الاصطناعي الحديثة تبقى عرضة للتعامل البسيط نسبياً مع منطق التفكير، وبينما يحصل المساعدون على وصول إلى كلمات المرور والبيانات الشخصية، يزداد تكلفة مثل هذه الثغرات على المستخدمين.