OpenClaw فشل في اختبارات التصيد الاحتيالي: وكيل الذكاء الاصطناعي لم يتعرف على الرسائل المزيفة

فشل وكيل OpenClaw للبريد الإلكتروني في اختبارات المقاومة ضد هجمات التصيد الاحتيالي. اكتشف الباحثون أن النظام المستقل يقع في نفس الخدع الاجتماعية والتلاعبات التي يقع فيها موظفو المكاتب العاديون - ربما لا يكون أفضل بكثير.

كيف تم إجراء الاختبار

طورت مجموعة من خبراء الأمن السيبراني سلسلة من رسائل التصيد الاحتيالي التي تحاكي الهجمات الفعلية على الشركات. احتوت الرسائل على جميع العلامات الكلاسيكية للتزييف: طلبات عاجلة للتحقق من كلمة المرور بسبب "تحديث أمان"، وروابط مزيفة لمواقع البنوك وخدمات السحابة، وإخطارات عاجلة حول تهديد اختراق، ومتطلبات تحديث بيانات الدفع.

واجه OpenClaw هذه الاختبارات وكان يقع بشكل منتظم في الفخ. كان الوكيل يفتح المرفقات الخطيرة، ويتابع الروابط الضارة، ويحاول تنفيذ الأوامر الموجودة في الرسائل. عمل النظام بثقة واضحة، كما لو لم يكن هناك شيء مريب في الرسائل. حتى أكثر التزييفات وضوحاً - الرسائل المزعومة من قسم تكنولوجيا المعلومات بمتطلبات عاجلة وعنوان مرسل غير صحيح - لم تثير شكوك الوكيل.

لماذا كان وكيل الذكاء الاصطناعي عرضة للخطر

حدد المتخصصون عدة أسباب رئيسية للفشل:

• غياب السياق الأمني - تم تدريب OpenClaw على أمثلة من العمل العادي مع البريد، وليس على التعرف على هجمات التصيد الاحتيالي والتهديدات
• الثقة الافتراضية - يفترض الوكيل أن الرسائل ذات صلة بالأنشطة الشرعية ويمكن تنفيذها
• تصفية البيانات الوصفية السطحية - لا يتحقق النظام من عناوين المرسلين والعلامات التقنية الأخرى المريبة بعناية كافية
• غياب التكامل مع أنظمة الأمان الشركاتية - لا توجد صلة بقواعد البيانات التي تحتوي على عناوين التصيد الاحتيالي المعروفة والنطاقات والروابط الضارة

عندما يتلقى الإنسان رسالة تطلب تأكيد كلمة المرور، فإنه عادة ما يتوقف ويتحقق من عنوان المرسل. وكيل الذكاء الاصطناعي لا يفعل ذلك - يرى الكلمات الرئيسية ويبدأ في تنفيذ المهمة.

"تحتاج وكلاء الذكاء الاصطناعي إلى تدريب خاص على أمثلة من التصيد

الاحتيالي، وإلا فقد تصبح أداة في أيدي المهاجمين"، كما يلاحظ الباحثون.

المخاطر عند النشر في الشركة

إذا تم نشر مثل هذا الوكيل في بيئة الشركة دون مستوى حماية إضافي، فقد يصبح نقطة دخول ضعيفة. بدلاً من الحماية من التصيد الاحتيالي، سيقوم النظام بتنفيذ أوامر المهاجمين تلقائياً بنفس السرعة والدقة التي ينفذ بها المهام الشرعية.

تتفاقم المشكلة بحقيقة أن وكلاء الذكاء الاصطناعي يتم منحهم غالباً حقوق الوصول إلى أنظمة الشركة: البريد الإلكتروني، والتخزين السحابي، وقواعد البيانات. يزداد حجم الضرر المحتمل بما يتناسب مع عدد ومستوى هذه الحقوق. إذا فتح الوكيل مرفقاً يحتوي على رمز ضار، فقد يؤدي ذلك إلى تسوية شبكة الشركة بأكملها.

ماذا يعني هذا

يتطلب نشر وكلاء الذكاء الاصطناعي في الشركات عملاً جاداً مسبقاً على الأمان. لا يمكنك ببساطة تشغيل وكيل مستقل والأمل في أنه يعمل بأمان. نحتاج إلى طبقات تصفية إضافية على مستوى البريد الإلكتروني، وتدريب خاص للوكيل على أمثلة من هجمات التصيد الاحتيالي، والتكامل الإلزامي مع أنظمة الحماية والمراقبة الخاصة بالشركة. وإلا، فإن نشر وكيل الذكاء الاصطناعي سيصبح بوابة مفتوحة لهجمات موجهة وتسرب البيانات.