Reddit يستخدم نماذج اللغة ضد السبام المُولَّد بواسطة AI — الذي ساعدت نماذج LLM نفسها إلى حد كبير في خلقه

تساعد الشبكات العصبية الآن Reddit على محاربة بريد الرسائل العشوائية الذي يعمل بالذكاء الاصطناعي: في يوليو 2026، أكدت المنصة استخدام نماذج اللغة لتحديد وإزالة بريد الرسائل العشوائية الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. السخرية واضحة: الأدوات ذاتها التي أنشأت هذه المشكلة في المقام الأول تساعد الآن في حلها.

لماذا أصبح بريد الرسائل العشوائية الذي يعمل بالذكاء الاصطناعي مشكلة صناعية؟

لقد قلل توفر الأدوات التوليدية من تكلفة إنتاج بريد الرسائل العشوائية عمليا إلى الصفر—وجعله في الوقت ذاته يكاد يكون لا يمكن تمييزه عن المحتوى الحقيقي للمستخدمين.

إذا كانت حملات بريد الرسائل العشوائية على نطاق واسع في السابق تتطلب إما جيوشا من العمال الرخيصين أو نصوص ضخمة ذات أنماط واضحة، فإن نموذج لغة واحد اليوم مع المطالبة الصحيحة ينتج آلاف المنشورات والتعليقات والحسابات المعقولة بتكلفة تكاد تكون لا شيء. يقوم المرسلون بتكييف النماذج مع مجتمعات معينة، ومحاكاة الأخطاء الإملائية الطبيعية، وتكرار اللغة العامية المتخصصة—كل ذلك بطريقة آلية تماما.

Reddit، مع أرشيفه لعقود من المناقشات المباشرة وعشرات الملايين من المشاركين اليوميين، أثبت أنه هدف جذاب بشكل خاص. المناقشات الموضوعية المباشرة—وهي موارد تدفع شركات الذكاء الاصطناعي مئات الملايين من الدولارات للوصول إليها بموجب اتفاقيات الترخيص—أصبحت في الوقت ذاته مادة تدريب مثالية لبرامج روبوتات بريد الرسائل العشوائية. تعلمت النماذج المدربة على subreddits محددة محاكاة الأسلوب والعامية وسرعة النقاش بطريقة مقنعة للغاية بحيث لا يكتشف المشاركون الجدد ولا الخوارزميات الكلاسيكية الاستبدال.

ترسانة الإشراف التقليدية—الكلمات الرئيسية والمشغلات السلوكية وسمعة الحساب—تفشل في التعامل مع المحتوى الذي يبدو كما لو أنه كتبه شخص حقيقي. تصبح القواعد عفا عليها الزمن أسرع من تحديث المرسلين لنماذجهم.

كيف يطبق Reddit نماذج اللغة الكبيرة لحماية المنصة

الرد من المنصة منطقي، على الرغم من أنه متناقض: استخدام نماذج اللغة لاكتشاف المحتوى الذي تم إنشاؤه بواسطة نماذج اللغة. يتعامل الذكاء الاصطناعي مع ما يكافح المشرفون البشريون للتعامل معه على نطاق واسع: يكتشف الحالات الشاذة في الأنماط، ويتعرف على الانحرافات الإحصائية، ويعالج ملايين المنشورات في الوقت الفعلي.

يمكن لنماذج اللغة الكبيرة الكشف عن علامات مميزة للإنشاء بواسطة الذكاء الاصطناعي: الإشارات المفكوكة أو الآلية إلى سياق الخيط، والصيغ المصقولة بشكل مفرط بدون تفاصيل حية عشوائية، وهيكل المنشور غير النمطي لمجتمع معين. تلتقط النماذج أيضا الأنماط السلوكية على مستوى الحساب: وتيرة النشر والتباين في النشاط والتناقضات مع الملف الشخصي التاريخي للمؤلف.

الميزة الرئيسية لهذا النهج هي السياقية. حللت الخوارزميات الكلاسيكية كل منشور بمعزل عن الآخرين، معتمدة على مجموعة ثابتة من القواعد. ترى نماذج اللغة العلاقات: الانحرافات عن معيار الخيط بأكمله والعدم الاتساق مع نبرة التعليقات السابقة من نفس المؤلف والسلوك الإحصائي المستحيل لمشارك حقيقي. علاوة على ذلك، يمكن إعادة تدريب نماذج اللغة الكبيرة بسرعة نسبية على أنماط البريد العشوائي الجديد.

ما يعنيه ذلك

ليس Reddit وحده في هذا الاختيار: المنصات الكبيرة من X إلى LinkedIn تتحرك في نفس الاتجاه، مع الاعتراف بأن الإشراف البشري في عصر الذكاء الاصطناعي لا يمكن أساسا أن ينطبق على الهجمات الآلية. سباق التسلح بين "بريد الرسائل العشوائية الذي يعمل بالذكاء الاصطناعي وسيادة الإشراف الذي يعمل بالذكاء الاصطناعي" ليس ظاهرة مؤقتة بل واقع هيكلي للسنوات القادمة: في اللحظة التي تصبح فيها طريقة كشف واحدة منتشرة على نطاق واسع، يقوم المرسلون بتكييف نماذجهم. تواجه المنصات التي لا تنتقل إلى أدوات الحماية التي تعمل بالذكاء الاصطناعي خطر فقدان جودة المحتوى وثقة الجمهور أسرع من قدرتها على الرد. يعترف Reddit بصراحة: في عصر الذكاء الاصطناعي، لا يمكنك محاربة النار بأي شيء آخر غير النار.

لماذا أصبح بريد الرسائل العشوائية الذي يعمل بالذكاء الاصطناعي مشكلة صناعية؟

لأن توفر الأدوات التوليدية قد قلل من تكلفة إنتاج بريد الرسائل العشوائية عمليا إلى الصفر وجعله في الوقت ذاته يكاد يكون لا يمكن تمييزه عن المحتوى الحقيقي للمستخدمين.