مجرمو الإنترنت يشتكون من طوفان محتوى مُولَّد بواسطة AI في منتدياتهم

في المنتديات والأسواق السوداء حيث يناقش المتسللون وغيرهم من مجرمي الإنترنت طرق القرصنة والأدوات والاستراتيجيات، بدأ ظهور محتوى مولّد بالذكاء الاصطناعي بكثرة. تترك جودة هذا المحتوى الكثير مما هو مرغوب فيه: تكتب الذكاء الاصطناعي ملاحظات تحتوي على أخطاء وعدم دقة ومعلومات قديمة، وفي بعض الأحيان تهلّس تماماً تفاصيل لم تكن موجودة أبداً. يشتكي مجرمو الإنترنت من أن هذا يمنعهم من العثور على مناقشات مفيدة حقاً ونصائح قيمة من المشاركين ذوي الخبرة. بدأت المشكلة تتكثّف في الأشهر الأخيرة، حيث أصبح الوصول إلى أدوات توليد المحتوى أسهل. الآن يمكن لأي شخص إنشاء عشرات المنشورات على منتدى في غضون دقائق، والعديد منهم يفعلون ذلك في الواقع.

لماذا يزعج هذا المتسللين

بالنسبة للمجتمعات السرية، المعلومات حاسمة. عندما يبحث متسلل عن طريقة جديدة لاستغلال ثغرة أو توصية بأداة، فإنه يحتاج إلى معلومات دقيقة ومتحقق منها يمكن اختبارها عملياً. المحتوى المولّد بالذكاء الاصطناعي، الذي غالباً ما يحتوي على أخطاء وتوصيات قديمة أو "حقائق" مختلقة بسيطة، يخلق "ضوضاء" خطيرة في النقاشات. يضطر مجرمو الإنترنت إلى قضاء وقت ثمين في تصفية المنشورات عديمة الفائدة للعثور على نصائح حقيقية وطرق مثبتة من متسللين ذوي سمعة عالية وخبرة. هذا محبط بشكل خاص لأنه في المجتمعات السرية يتم بناء السمعة على مدار سنوات، والمحتوى المولّد بالذكاء الاصطناعي يخفف من كل ذلك. المشكلة حادة بشكل خاص في المنتديات السوداء المعروفة، حيث يتزايد حجم المنشورات لكن جودة المناقشات تنخفض بوضوح.

المشاكل والعواقب

• انخفاض في جودة النقاشات بسبب المحتوى منخفض الجودة المولّد بالذكاء الاصطناعي
• زيادة الوقت اللازم للعثور على معلومات مفيدة للمتسللين ذوي الخبرة
• تخفيف النصائح القيمة بواسطة المنشورات المولّدة تلقائياً
• صعوبة التمييز بين الخبرة الحقيقية والنص المولّد تلقائياً
• احتمال انخفاض نشاط المستخدمين ذوي الخبرة المحبطين من الضوضاء

ما يعنيه هذا

وصلت مشكلة البريد المزعج المولّد بالذكاء الاصطناعي الآن حتى إلى أكثر زوايا الإنترنت إغلاقاً وتخصصاً. هذا يُظهر أن الشبكات العصبية تؤثر على المجال المعلوماتي حرفياً في كل مكان، بغض النظر عن قانونية المنصة. بالنسبة لمجرمي الإنترنت، هذا يعني أنهم بحاجة إلى البحث بشكل عاجل عن طرق جديدة لتصفية المحتوى والتحقق من المعلومات — ربما الانتقال إلى قنوات خاصة تتطلب تأكيد الهوية. بالنسبة للأمان بشكل عام، قد يثبت أن هذا تأثير جانبي مفيد — سيضطر مجرمو الإنترنت إلى الاعتماد أكثر على الاتصالات الشخصية المتحقق منها والتوصيات من مصادر موثوقة.