كيف تساعد الشبكات العصبية Reddit في مكافحة الرسائل المزعجة المولَّدة بالذكاء الاصطناعي
تستخدم Reddit نماذج لغوية (LLM) لرصد الرسائل المزعجة المولَّدة بالذكاء الاصطناعي على المنصة وحذفها. والمفارقة أن نماذج LLM نفسها أسهمت إلى حد كبير في نشوء هذه المشكلة، إذ تتيح أدوات التوليد المتاحة للجميع للمرسلين المزعجين إغراق المجتمعات بمحتوى مقنع على نطاق صناعي. في عصر الذكاء الاصطناعي لا خيار أمام المنصات: فمحاربة النار لا تكون إلا بالنار نفسها.
معالج بواسطة الذكاء الاصطناعي من TechCrunch؛ بتحرير Hamidun News
باتت الشبكات العصبية تساعد Reddit في مكافحة الرسائل المزعجة المولَّدة بالذكاء الاصطناعي: ففي يوليو 2026 أكدت المنصة استخدام نماذج لغوية لرصد الرسائل المزعجة المولَّدة بالذكاء الاصطناعي وحذفها. والمفارقة واضحة: فالأدوات نفسها التي أسهمت إلى حد كبير في نشوء هذه المشكلة تساعد الآن في التعامل معها.
لماذا أصبح الاسبام المولَّد بالذكاء الاصطناعي مشكلة صناعية؟
خفّضت إتاحة أدوات التوليد تكلفة إنتاج الرسائل المزعجة إلى ما يقارب الصفر، وجعلتها في الوقت نفسه شبه مطابقة للمحتوى الحقيقي الذي ينشره المستخدمون.
كانت حملات الرسائل المزعجة واسعة النطاق تتطلب في السابق جيشًا من العمال الرخيصين، أو سكربتات ضخمة ذات أنماط واضحة. أما اليوم فيكفي نموذج لغوي واحد مع موجّه (برومبت) مناسب لتوليد آلاف المنشورات والتعليقات والحسابات المقنعة بتكلفة شبه معدومة. ويكيّف المرسلون المزعجون النماذج لتناسب مجتمعات بعينها، ويحاكون الأخطاء الإملائية العفوية، ويستنسخون الألفاظ العامية الخاصة بكل مجتمع، وكل ذلك في وضع آلي بالكامل.
وقد أصبحت Reddit، بأرشيفها الممتد لسنوات من النقاشات الحية وعشرات الملايين من المشاركين يوميًا، هدفًا جذابًا بصورة خاصة. فالنقاشات الموضوعية الحية، وهي مورد تدفع شركات الذكاء الاصطناعي مئات الملايين من الدولارات مقابل الوصول إليه بموجب اتفاقيات ترخيص، تحولت في الوقت نفسه إلى مادة تدريب مثالية لروبوتات الرسائل المزعجة. فقد تعلمت النماذج المدرَّبة على سبريديتات محددة محاكاة الأسلوب والعامية وإيقاع النقاش بدرجة مقنعة إلى حد أن المشاركين الجدد والخوارزميات التقليدية كثيرًا ما لا يلاحظون الاستبدال.
ولم تعد أدوات الإشراف التقليدية، من كلمات مفتاحية ومحفزات سلوكية وسمعة الحساب، قادرة على مجاراة محتوى يبدو كأن إنسانًا حيًا كتبه. فالقواعد تتقادم أسرع مما يستطيع المرسلون المزعجون تحديث نماذجهم.
كيف توظّف Reddit نماذج LLM لحماية المنصة
ردّ المنصة منطقي وإن كان مفارقًا: استخدام النماذج اللغوية لرصد المحتوى الذي أنتجته نماذج لغوية. فالذكاء الاصطناعي ينجح فيما يعجز عنه المشرف البشري على هذا النطاق: يرصد الشذوذ في الأنماط، ويتعرف على الانحرافات الإحصائية، ويعالج ملايين المنشورات في الوقت الفعلي.
تستطيع نماذج LLM اكتشاف العلامات المميزة للمحتوى المولَّد بالذكاء الاصطناعي: إشارات غير مترابطة أو آلية إلى سياق النقاش، وصياغات «مصقولة» أكثر من اللازم تخلو من التفاصيل العفوية الحية، وبنية منشور غير معتادة في مجتمع بعينه. كما تلتقط النماذج الأنماط السلوكية على مستوى الحساب: وتيرة النشر، وتوزّع النشاط، وعدم اتساقه مع الملف التاريخي للكاتب.
والميزة الأساسية لهذا النهج هي مراعاة السياق. فالخوارزميات التقليدية كانت تحلل كل منشور بمعزل عن غيره، استنادًا إلى مجموعة ثابتة من القواعد. أما النماذج اللغوية فترى العلاقات: الانحراف عن الطبيعي في النقاش كله، وعدم التوافق مع نبرة تعليقات الكاتب نفسه السابقة، وسلوكًا مستحيلًا إحصائيًا لمشارك حقيقي. كما يمكن إعادة تدريب نماذج LLM على أنماط الرسائل المزعجة الجديدة بسرعة نسبية.
ماذا يعني ذلك
Reddit ليست وحدها في هذا الخيار: فالمنصات الكبرى، من X إلى LinkedIn، تتحرك في الاتجاه نفسه، مقرّةً بأن الإشراف اليدوي لا يمكن من حيث المبدأ أن يتوسع لمواجهة الهجمات الآلية في عصر الذكاء الاصطناعي. وسباق التسلح بين «الاسبام المولَّد بالذكاء الاصطناعي» و«الإشراف بالذكاء الاصطناعي» ليس ظاهرة مؤقتة، بل واقع بنيوي في السنوات المقبلة: فبمجرد أن تنتشر طريقة كشف على نطاق واسع، يكيّف المرسلون المزعجون نماذجهم لتجاوزها. أما المنصات التي لن تنتقل إلى أدوات الحماية القائمة على الذكاء الاصطناعي، فتخاطر بخسارة جودة المحتوى وثقة الجمهور أسرع مما تستطيع الاستجابة. وتقرّ Reddit علنًا بأنه في عصر الذكاء الاصطناعي لا يمكن ببساطة محاربة النار بشيء آخر غير النار.
لماذا أصبح الاسبام المولَّد بالذكاء الاصطناعي مشكلة صناعية؟
لأن إتاحة أدوات التوليد خفّضت تكلفة إنتاج الرسائل المزعجة إلى ما يقارب الصفر، وجعلتها في الوقت نفسه شبه مطابقة للمحتوى الحقيقي الذي ينشره المستخدمون.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.