Исследователи взломали браузер OpenAI Atlas и совершили покупку на Amazon без ведома пользователя

اكتشف باحثون من شركة Zenity أكثر من 12 ثغرة أمنية في متصفحات الذكاء الاصطناعي، وأثبتوا بشكل قاطع أن متصفح OpenAI Atlas يمكن إجباره على إجراء عملية شراء غير مصرح بها على Amazon وإرسال رسائل مزعجة إلى جميع جهات اتصال المستخدم على WhatsApp — دون علمه أو موافقته.

ما الذي اكتشفته شركة Zenity

أجرت Zenity، المتخصصة في أمن وكلاء الذكاء الاصطناعي، تدقيقاً منهجياً لعدة متصفحات ذكاء اصطناعي — وهي أدوات الجيل الجديد التي تتيح لنماذج اللغة العمل باستقلالية على الإنترنت: النقر، وملء النماذج، وإجراء عمليات الشراء، وإرسال الرسائل. وبحسب ما نشرته مجلة Wired، فإن هذه الاستقلالية بالذات كانت الثغرة الرئيسية.

• تم الكشف عن أكثر من 12 ثغرة أمنية في متصفحات ذكاء اصطناعي مختلفة
• أحد أبرز الأهداف التي خضعت للاختبار — OpenAI Atlas
• عرض توضيحي للاختراق: شراء غير مصرح به لمنتج عبر Amazon
• المتجه الثاني: إرسال رسائل مزعجة بشكل جماعي إلى جهات اتصال المستخدم عبر WhatsApp
• نُشرت نتائج البحث في Wired من قِبَل Zenity

كيف يتم اختطاف متصفح الذكاء الاصطناعي

Atlas هو متصفح الذكاء الاصطناعي الخاص بـ OpenAI، وهو قادر على التحكم في صفحات الويب مثل الإنسان تماماً: رؤية المحتوى، والضغط على الأزرار، وإدخال البيانات، وتنفيذ المهام متعددة الخطوات. استخدم باحثو Zenity ضده أسلوب حقن التعليمات (prompt injection) — أي تضمين تعليمات خارجية عبر محتوى ضار على صفحة ويب.

عندما يزور Atlas موقعاً إلكترونياً مُعَدَّاً خصيصاً لذلك، يقرأ التعليمات المخفية باعتبارها أوامر موثوقة صادرة عن المستخدم وينفذها. في السيناريو التوضيحي، أتم المتصفح طلباً حقيقياً على Amazon — بينما لم يكن المستخدم يشك في شيء. يعمل الهجوم في الخلفية: إذ يتمتع وكيل الذكاء الاصطناعي بالاستقلالية بطبيعته، وقد لا يلاحظ المستخدم النشاط المشبوه في الوقت المناسب.

«يعمل وكلاء الذكاء الاصطناعي نيابةً عن المستخدم ولديهم صلاحية الوصول إلى حساباته — لذا فإن الثغرات الموجودة فيهم أخطر بكثير مما هو موجود في البرمجيات العادية»، يؤكد باحثو

Zenity في تقريرهم الذي نشرته Wired.

الرسائل المزعجة عبر WhatsApp: تهديد حقيقي للمقربين

السيناريو التوضيحي الثاني لا يُشكّل خطراً على المال، بل على السمعة. يُجبر المهاجم متصفح الذكاء الاصطناعي على إرسال رسائل مزعجة عبر WhatsApp إلى جميع جهات اتصال المستخدم. ويبدو مثل هذا الرسالة للمستلم وكأنها صادرة من شخص مألوف — مما يُهيئ الظروف المثالية لعمليات التصيد الاحتيالي.

في الوقت ذاته، قد يظل مالك المتصفح المخترق جاهلاً لفترة طويلة بأن وكيله كان يُرسل رسائل غير مرغوب فيها. وإذا كانت قائمة جهات الاتصال على WhatsApp تضم مئات الأشخاص، فإن الهجوم يطال في الحال دائرة واسعة من الناس — وكل ذلك دون نقرة واحدة من جانب الضحية.

ما الذي يعنيه هذا

تُمثّل متصفحات الذكاء الاصطناعي فئة جديدة جذرياً من البرمجيات، ولم تتشكّل معايير الأمان الخاصة بها بعد. يكشف بحث Zenity أن سرعة طرح المنتجات في السوق تسبق العمل على الحماية. وفي حين يوسّع OpenAI ومطورون آخرون قدرات وكلائهم، تظل مقاومة هؤلاء الوكلاء للتلاعب الخارجي مسألةً مفتوحة. ينبغي للمستخدمين توخي الحذر عند منح متصفحات الذكاء الاصطناعي صلاحيات واسعة — لا سيما الوصول إلى الحسابات المالية وتطبيقات المراسلة.

الأسئلة الشائعة

ما المقصود بحقن التعليمات (prompt injection) في متصفحات الذكاء الاصطناعي؟

حقن التعليمات هو هجوم تُدرَج فيه تعليمات خبيثة من خلال البيانات التي يعالجها وكيل الذكاء الاصطناعي أثناء عمله (كنص مخفي على صفحة ويب مثلاً). يتعامل الوكيل معها باعتبارها أوامر موثوقة صادرة عن المستخدم، وينفذ إجراءات لم يطلبها هذا الأخير قط — بما في ذلك عمليات الشراء وإرسال الرسائل.

هل يستطيع OpenAI Atlas فعلاً خصم الأموال دون إذن؟

نعم — هذا بالضبط ما أثبته باحثو Zenity: إذ أتم المتصفح طلباً حقيقياً على Amazon خلال تجربة خاضعة للرقابة. يصبح الهجوم ممكناً حين يُمنح الوكيل حق الوصول إلى حساب تحتوي بياناته على معلومات دفع محفوظة.

*تم الاعتراف بـ Meta باعتبارها منظمة متطرفة وهي محظورة في روسيا.