استخدمت Reddit نماذج اللغة الكبيرة لمكافحة الرسائل غير المرغوبة المولدة بواسطة الذكاء الاصطناعي

أعلنت Reddit في يوليو 2026 عن دمج أدوات قائمة على نماذج لغة كبيرة في أنظمتها المضادة للبريد العشوائي. تفصيل مميز: جزء كبير من البريد العشوائي الذي تحمي منه المنصة الآن باستخدام الشبكات العصبية يتم إنشاؤه بواسطتها نفسها.

لماذا فشلت المرشحات الكلاسيكية في أداء عملها؟

تم بناء الأنظمة التقليدية لمكافحة البريد العشوائي في عصر كان فيه المحتوى غير المرغوب يتمتع بعلامات يمكن التعرف عليها: عبارات نموذجية، روابط متطابقة في أماكن متوقعة، أخطاء نحوية، تكرارات مميزة بين الحسابات. تم بناء القواعد وقوائم الحجب والمصنفات الإحصائية على هذه الإشارات — وظلت تؤدي مهمتها لفترة طويلة.

كسرت نماذج اللغة التوليدية هذا المنطق. البريد العشوائي الذي تنتجه الذكاء الاصطناعي يتمتع بصحة نحوية، وتنوع أسلوبي، وقدرة على إعادة إنتاج نبرة المجتمع المحدد بدقة عالية. النموذج لا يتعب، ولا يكرر العبارات ذاتها مرتين، ولا يرتكب الأخطاء الإملائية المميزة. من وجهة نظر الكاشف الكلاسيكي، لا يختلف هذا المنشور عن رسالة مستخدم حقيقي.

نتيجة لذلك، ظل جزء كبير من المحتوى غير المرغوب في "المناطق العمياء" للإشراف الآلي. من الواضح أن نطاق المشكلة وصل إلى مستوى لم تستطع فيه الإشراف اليدوي التعامل معه — وإلا لما أعادت الشركة بناء نظام الحماية بأكمله.

ماذا تستطيع أدوات الإشراف القائمة على LLM أن تفعل؟

الميزة الأساسية لنماذج اللغة الكبيرة على الكاشفات الكلاسيكية هي القدرة على فهم السياق والمعنى، وليس فقط الميزات السطحية للنص.

يمكن للأنظمة القائمة على LLMs تقييم مدى توافق محتوى المنشور مع موضوع subreddit محدد والأسلوب النموذجي لمناقشاته. تحلل الأنماط السلوكية للحسابات بالتزامن مع المحتوى المنشور: مدى توافق اهتمامات الحساب مع بعضها، كيفية توزيع النشاط عبر الزمن، ما إذا كان سجل المنشورات يتطابق مع ملف تعريف المستخدم المصرح به. يمكن لكاشف الذكاء الاصطناعي أن يلتقط التوحد الأسلوبي الذي قد يكون غير نمطي حتى بالنسبة للمشارك المجتمعي الحقيقي الأكثر نشاطاً.

وفقاً لموقع TechCrunch، بفضل هذه القدرات، عززت Reddit بشكل كبير من كفاءة الكشف عن المحتوى غير المرغوب الذي كان يمر دون أن تلاحظه الأنظمة القياسية سابقاً. لم تكشف الشركة عن أرقام تحسن دقيقة ولم تسمِ النماذج المحددة التي تقوم عليها الحل.

ماذا تغير بالنسبة للمشرفين والمستخدمين؟

بالنسبة لمشرفي subreddits، يجب أن يعني هذا تقليلاً ملحوظاً في عبء التنظيف اليدوي: جزء من البريد العشوائي الذي تنتجه الذكاء الاصطناعي والذي كان يتطلب تدخلاً يدوياً سابقاً يتم الآن تصفيته بواسطة النظام الآلي قبل ظهوره في الخلاصة.

بالنسبة للمستخدمين العاديين، التغييرات على الأرجح ستكون غير ملحوظة بشكل مباشر. إذا كان النظام يعمل بشكل صحيح، فسيواجهون ببساطة منشورات تم إنشاؤها بشكل آلي بشكل أقل تكراراً — منشورات لا علاقة لها بالمشاركة الحقيقية في النقاش. ومع ذلك، فإن أي نظام للكشف عن الكتابة "غير البشرية" يحمل خطر الإيجابيات الكاذبة — للمستخدمين الذين يكتبون بوضوح غير عادي أو ليس بأسلوبهم المعتاد. لم تعترف الشركة بعد علناً بمدى جودة التعامل مع هذا التوازن من خلال مرشحات Reddit الجديدة.

ما معنى هذا

أصبحت Reddit إحدى أولى المنصات الاجتماعية الكبرى التي تعترف علناً: محاربة البريد العشوائي الذي تنتجه الذكاء الاصطناعي تتطلب أدوات ذكاء اصطناعي. هذا لا يقتصر على حل تكنولوجي لمنصة محددة — بل هو اعتراف بتحول هيكلي في طبيعة التهديد ذاته.

مع انخفاض تكاليف نماذج التوليد وأصبحت متاحة لدائرة أوسع فأوسع من المشاركين — من المسوقين إلى الجهات الفاعلة السيئة النية بشكل واضح — سيزداد حجم النص الذي تنتجه الآلة على الويب المفتوح فقط. المنصات التي تستمر في الاعتماد على أدوات الجيل السابق تخاطر بأن تجد نفسها في موقف حيث يكون البريد العشوائي غير قابل للتمييز عن المحتوى المباشر للمستخدم وفقاً لجميع المقاييس التقليدية. بقرارها، حددت Reddit أساساً معيار حماية جديد للمجتمعات عبر الإنترنت المفتوحة.