باحثون يخترقون متصفح OpenAI Atlas ويُجرون عملية شراء على Amazon دون علم المستخدم

كشف باحثون في شركة Zenity أكثر من 12 ثغرة في متصفحات الذكاء الاصطناعي، وأظهروا عمليًا أنه يمكن إجبار متصفح OpenAI Atlas على تنفيذ عملية شراء غير مصرّح بها على Amazon وإرسال رسائل مزعجة إلى جميع جهات اتصال المستخدم في WhatsApp، دون علمه أو موافقته.

ماذا اكتشفت شركة Zenity

أجرت Zenity، المتخصصة في أمن وكلاء الذكاء الاصطناعي، تدقيقًا منهجيًا لعدة متصفحات تعمل بالذكاء الاصطناعي. وهي أدوات من الجيل الجديد تتيح للنماذج اللغوية التصرف بشكل مستقل على الإنترنت: النقر وتعبئة النماذج وإجراء المشتريات وإرسال الرسائل. ووفقًا لموقع Wired، فإن هذه الاستقلالية تحديدًا هي نقطة الضعف الرئيسية.

• تم رصد أكثر من 12 ثغرة في متصفحات ذكاء اصطناعي مختلفة
• كان OpenAI Atlas أحد الأهداف الرئيسية للاختبار
• عرض الاختراق: شراء منتج على Amazon دون تصريح
• المسار الثاني: إرسال رسائل مزعجة بكميات كبيرة إلى جهات اتصال المستخدم عبر WhatsApp
• نشرت Wired نتائج البحث الذي أجرته Zenity

كيف يُختطف متصفح الذكاء الاصطناعي

Atlas هو متصفح الذكاء الاصطناعي من OpenAI، وهو قادر على التحكم بصفحات الويب كما يفعل الإنسان: يرى المحتوى، ويضغط على الأزرار، ويُدخل البيانات، وينفّذ مهام متعددة الخطوات. واستخدم باحثو Zenity ضده تقنية prompt injection، أي حقن تعليمات دخيلة عبر محتوى خبيث في صفحة ويب.

عندما دخل Atlas إلى موقع أُعدّ لهذا الغرض، قرأ التعليمات المخفية على أنها أوامر موثوقة من المستخدم ونفّذها. وفي سيناريو العرض التوضيحي، أنشأ المتصفح طلبًا حقيقيًا على Amazon بينما لم يكن المستخدم يشك في شيء. ويعمل الهجوم في الخلفية، فوكيل الذكاء الاصطناعي مستقل بطبيعته، وقد لا يلاحظ المستخدم الإجراء المريب في الوقت المناسب.

«وكلاء الذكاء الاصطناعي يتصرفون نيابةً عن المستخدم ولديهم صلاحية الوصول إلى حساباته، ولذلك فإن الثغرات فيهم أخطر منها في البرمجيات العادية»، هكذا يؤكد باحثو

Zenity في تقريرهم الذي نشرته Wired.

الرسائل المزعجة عبر WhatsApp: تهديد حقيقي لجهات الاتصال

السيناريو الثاني الذي عُرض لا يهدد المحفظة هذه المرة، بل السمعة. فالمهاجم يجبر متصفح الذكاء الاصطناعي على إرسال رسائل مزعجة عبر WhatsApp إلى دفتر عناوين المستخدم بالكامل. وتبدو الرسالة للمتلقي كأنها وصلت من شخص يعرفه، ما يهيئ ظروفًا مثالية للتصيد الاحتيالي.

وقد لا يدرك صاحب المتصفح المخترق لفترة طويلة أن وكيله كان يرسل رسائل غير مرغوب فيها. وإذا كان لديه عدة مئات من جهات الاتصال في WhatsApp، فإن الهجوم يطال دائرة واسعة من الناس على الفور، وكل ذلك دون أي نقرة من الضحية.

ماذا يعني ذلك

متصفحات الذكاء الاصطناعي فئة جديدة جذريًا من البرمجيات، ولم تتشكل لها بعد معايير أمنية. ويُظهر بحث Zenity أن سرعة طرح المنتجات في السوق تتقدم على العمل على حمايتها. وبينما توسّع OpenAI وغيرها من المطورين قدرات وكلائها، تبقى مناعة هؤلاء الوكلاء أمام التلاعب الخارجي مسألة مفتوحة. وينبغي للمستخدمين توخي الحذر عند منح متصفحات الذكاء الاصطناعي صلاحيات واسعة، لا سيما الوصول إلى الحسابات المالية وتطبيقات المراسلة.

أسئلة شائعة

ما هو prompt injection في متصفحات الذكاء الاصطناعي؟

هو هجوم تُحقن فيه تعليمات خبيثة عبر البيانات التي يعالجها وكيل الذكاء الاصطناعي أثناء عمله (مثل نص مخفي على صفحة ويب). ويتعامل الوكيل معها على أنها أوامر موثوقة من المستخدم، وينفّذ إجراءات لم يطلبها، وصولًا إلى عمليات الشراء وإرسال الرسائل.

هل يمكن لـ OpenAI Atlas فعلًا خصم الأموال دون إذن؟

نعم، وهذا ما أثبته باحثو Zenity: فقد أنشأ المتصفح طلبًا حقيقيًا على Amazon خلال تجربة خاضعة للرقابة. والهجوم ممكن عندما يُمنح الوكيل صلاحية الوصول إلى حساب يحتوي على بيانات دفع محفوظة.

*Meta مصنّفة منظمة متطرفة ومحظورة في روسيا.