سئم الهاكرز والمحتالون من سبام AI: منتدياتهم المغلقة غمرها محتوى رديء مولد بواسطة AI

واجه المجرمون السيبرانيون مشكلة غير متوقعة: حتى المنتديات المغلقة والويب المظلم تم غمرها بمحتوى تم توليده بواسطة الذكاء الاصطناعي. وهذا اضطر المتسللين والنصابين للشكوى من انتشار الشبكات العصبية في الأماكن التي يحاولون فيها مناقشة الهجمات الإلكترونية والأنشطة غير القانونية.

عندما يصل البريد العشوائي إلى الأعماق

محتوى تم توليده بالذكاء الاصطناعي موجود في كل مكان الآن. تقوم الشبكات العصبية بتوليد المقالات والتعليقات والمنشورات ورسائل المنتدى بسرعة وبتكلفة منخفضة جداً، بحيث أن المنصات التقليدية مثل Reddit و Twitter و YouTube مشبعة منذ فترة طويلة بهذا المحتوى. لكن الآن الموجة قد غمرت المنتديات المغلقة المتخصصة، حيث يجتمع المجرمون السيبرانيون لمناقشة أنشطتهم.

تم اعتبار المجتمعات المغلقة للمجرمين السيبرانيين ملاجئ آمنة نسبياً لسنوات عديدة. هناك عدد أقل من وكالات الاستخبارات الحكومية، وتعديل أفضل (فيما بينهم)، وجودة متوسطة أعلى للمعلومات. ناقش أعضاء هذه المنتديات طرق الاختراق الحقيقية، وباعوا البيانات المسروقة، وتبادلوا أفضل الممارسات، معتقدين أن محتواهم لن يصل إلى أشخاص غرباء. لكن بريد الذكاء الاصطناعي العشوائي وصل إلى هناك أيضاً.

كيف أدت الأسعار المنخفضة إلى مشكلة

• انخفضت تكلفة توليد النص عبر واجهة برمجة التطبيقات إلى القاع
• يمكن برمجة روبوتات البريد العشوائي في غضون ساعات باستخدام نماذج جاهزة
• حواجز منخفضة للدخول للجهات الفاعلة الضارة التي تريد غمر المنتدى
• غياب حماية متخصصة ضد أتمتة الذكاء الاصطناعي على المنصات المغلقة
• نمو سريع في إمكانية الوصول إلى نماذج اللغات القوية من خلال واجهات برمجة التطبيقات

المشكلة هي أن نماذج الشبكات العصبية الآن رخيصة بما يكفي وسهلة الاستخدام. يمكن تجميع روبوت بريد عشوائي في غضون ساعات قليلة باستخدام OpenAI API أو Claude API أو نماذج متاحة مجاناً على Hugging Face. تكلفة توليد 10000 رسالة منتدى الآن لا تذكر. تقوم روبوتات البريد العشوائي بغمر المنتديات بمحتوى تم توليده—من المنشورات التافهة لزيادة عدادات النشاط إلى مخططات أكثر تعقيداً حيث يحاكي روبوت الذكاء الاصطناعي عضواً ذو خبرة لبناء السمعة ثم بيع حساب مخترق.

في الوقت الحالي، هذا أرخص حتى وأكثر فعالية من توظيف أشخاص لأداء نفس المهمة.

مفارقة التكنولوجيا

هناك قدر معين من السخرية في هذا الوضع. يعاني مجتمع المجرمين السيبرانيين، الذي يستخدم بنشاط التكنولوجيا والأتمتة لأغراضه الخاصة، الآن من عواقب تطور تقنيات مختلفة تماماً. كان المتسللون من بين أوائل المتبنين للأتمتة والروبوتات والبرامج النصية وحلول الذكاء الاصطناعي. لكن لم يتوقع أحد أن تتحول هذه الموجة ضدهم.

تاريخياً، كانت منتديات المجرمين السيبرانيين عدة خطوات متقدمة عن الإنترنت السائد من حيث الحلول التكنولوجية. طبقوا التشفير والخصوصية واللامركزية قبل أن تصبح هذه المفاهيم شائعة. لكن بريد الذكاء الاصطناعي العشوائي هي مشكلة تتسع بسرعة أكبر بكثير مما يمكن لأي اعتدال تقليدي أن يتعامل معه.

«حتى في الإنترنت تحت الأرض، لا توجد سلام بعد الآن،» هكذا يشتكي أعضاء

المنتديات المغلقة.

ما يعنيه هذا

انتشار محتوى تم توليده بواسطة الذكاء الاصطناعي وصل بالفعل إلى نطاق يؤثر حتى على المجالات الضيقة التي تحاول بجهد كبير الاختباء منه. هذا إشارة واضحة على أن مشكلة جودة المعلومات والسيطرة على المحتوى لم تعد مهمة منفصلة من منصات التكنولوجيا الكبرى، بل حقيقة عالمية تؤثر على الجميع حرفياً.

يضطر المجرمون السيبرانيون إلى البحث عن طرق جديدة للحماية من أتمتة الذكاء الاصطناعي، تماماً كما يفعل المستخدمون العاديون والمنظمات. السخرية هي أنهم يمكنهم استخدام نفس الأدوات التي يستخدمها أعدائهم: نماذج الكشف عن الذكاء الاصطناعي الأكثر تقدماً، وطرق التحقق من المستخدمين الجديدة، والبنى المعمارية اللامركزية. لكن هذه مشكلة لم يتوقعوا بوضوح أنهم سيضطرون إلى حلها.