LayerX: هجوم BioShocking يدفع وكيل ذكاء اصطناعي إلى تسريب كلمات مرور المستخدم

طورت شركة الأمن السيبراني LayerX مخطط هجوم باسم BioShocking، يجعل نموذج الذكاء الاصطناعي يصدّق عبارة كاذبة، كالقول إن «2+2 لا يساوي 4»، ثم يستغل الارتباك الناتج في منطق استدلال النموذج لانتزاع بيانات سرية منه، بما فيها كلمات مرور المستخدم.

كيف يعمل هجوم BioShocking

تتخصص LayerX في قضايا أمن الذكاء الاصطناعي. ويقوم المخطط الذي عرضته الشركة على التلاعب بالمنطق الأساسي للنموذج: فإذا جرى إقناع الذكاء الاصطناعي بقبول عبارة كاذبة بوضوح على أنها حقيقة، تبدأ استدلالاته اللاحقة بالاستناد إلى هذا الخطأ، وتفقد آليات الحماية لديه، أي المرشحات التي تمنع عادةً إخراج البيانات الحساسة، قدرتها على العمل بشكل موثوق.

• طوّرت هجوم BioShocking شركة LayerX المتخصصة في أمن الذكاء الاصطناعي
• يبدأ المخطط بإقناع النموذج بعبارة كاذبة من قبيل «2+2 لا يساوي 4»
• نتيجة لذلك، يحصل المهاجمون على بيانات حساسة، بما فيها كلمات مرور المستخدم
• تُظهر هذه الحالة أن الثقة بالذكاء الاصطناعي كجهة تعالج المعلومات السرية لا تزال محل تساؤل

لماذا تزداد خطورة هذه الثغرات

مشكلة التلاعب بمنطق نماذج الذكاء الاصطناعي ليست جديدة: فمنذ عام 2023 يصف باحثو الأمن بانتظام أساليب مشابهة لتجاوز مرشحات الحماية عبر تشويه سياق المحادثة. لكن المخاطر ترتفع بارتفاع قدرات المساعدين أنفسهم: فعدد متزايد من أدوات الذكاء الاصطناعي يحصل على صلاحية الوصول إلى كلمات المرور وبيانات الدفع والحسابات الشخصية للمستخدمين، عبر الملء التلقائي للنماذج ووكلاء الذكاء الاصطناعي في المتصفحات ومديري كلمات المرور المدمجين فيها. وفي مثل هذه التهيئة، لا يعود الهجوم الناجح على منطق النموذج مجرد خطأ طريف في توليد النصوص، بل يصبح تسريباً مباشراً لبيانات اعتماد حقيقية.

من عليه أن يكون أكثر حذراً

أكثر المعرّضين للخطر من هذه المخططات هم مستخدمو وكلاء الذكاء الاصطناعي في المتصفحات والمساعدون المؤسسيون الذين مُنحوا، صراحةً أو ضمناً، صلاحية الوصول إلى الحسابات، مثلاً لأتمتة المهام الروتينية كملء النماذج أو دفع الفواتير. وعادةً ما تفترض الشركات التي تدمج نماذج الذكاء الاصطناعي في عمليات عمل تتيح الوصول إلى كلمات المرور والأنظمة الداخلية أن مرشحات الحماية في النماذج موثوقة بما يكفي. أما عرض LayerX فيضع هذا الافتراض موضع شك، ويؤكد الحاجة إلى مستويات تحقق إضافية مستقلة عن النموذج نفسه.

ماذا يعني ذلك

يمثل عرض LayerX تذكيراً جديداً بأن نماذج الذكاء الاصطناعي الحديثة لا تزال عرضة لتلاعبات بسيطة نسبياً بمنطق الاستدلال، وكلما حصل المساعدون على صلاحية الوصول إلى كلمات المرور والبيانات الشخصية، ارتفع ثمن هذه الثغرة على المستخدمين.