روبوت مكافحة الرسائل المزعجة TAB يحصل على لوحة تحكم وموقع: حذف 13 ألف رسالة مزعجة ونسبة الأخطاء 0.39%

عادة ما تموت المشاريع الشخصية بعد شهر من نشر أول تدوينة عنها. أما TAB، وهو روبوت Telegram يحذف الرسائل المزعجة تلقائيا، فقد تجاوز عمره عاما وما زال ينمو. قبل ستة أشهر، لم يكن لديه سوى أمرين للإدارة ووعد «بإنشاء لوحة تحكم يوما ما». أما الآن، فأصبح لديه موقع ودليل استخدام ولوحة تحكم شخصية.

النتائج بالأرقام

يوجد الروبوت في 68 محادثة. وقد مر عبره 527 554 رسالة، تبين أن 13 422 منها رسائل مزعجة. وهذا يعادل 2.54% من حركة الرسائل، أي نحو رسالة واحدة من كل 39 رسالة. وجرى حظر 11 193 مرسلا للرسائل المزعجة، فيما بلغت نسبة أخطاء النموذج 0.39%. ويعتمد النظام على نموذج LSTM مزود بآلية انتباه، دُرب باستخدام مكتبة LANCETNIC التي طورها المؤلف. ولم يستخدم المؤلف نماذج جاهزة من Hugging Face.

توضح الخريطة الحرارية على الموقع أن مزارع الروبوتات تتبع جدولا يوميا يشبه إلى حد بعيد جدول البشر. يمتد النشاط من الساعة 8 إلى 18 بتوقيت موسكو، وتأتي الذروة عند الظهر في أيام العمل، بينما يسود الهدوء ليلا ويكون الأحد أكثر الأيام هدوءا. وبالنسبة إلى المسؤول، تقدم هذه البيانات إشارة عملية: يمكن جدولة الإشراف اليدوي خلال ساعات العمل.

لوحة التحكم الشخصية والقائمة البيضاء

في السابق، كان تغيير الوضع يتم مباشرة داخل المحادثة باستخدام الأمرين /handbot و/autobot. وكان جميع المشاركين يرون الأمر، وإذا كان لدى المالك خمس محادثات، تعين عليه كتابته خمس مرات. أما الآن، فيرسل المالك الأمر /lk إلى الروبوت في رسالة خاصة، ثم يختار المحادثة ويغير الوضع بنقرة واحدة أو يفتح القائمة البيضاء.

هناك وضعان. في الوضع التلقائي، تفحص الشبكة العصبية كل رسالة وتحذف الرسائل المزعجة على الفور. وفي الوضع القياسي، يستدعي الروبوت المشرفين عند الاشتباه في رسالة، ليضغطوا إما «هذه رسالة مزعجة» أو «هذه ليست رسالة مزعجة». الزر الأول يُبقي الرسالة ويضيفها إلى مجموعة البيانات لاستخدامها في التدريب الإضافي، بينما يحذف الزر الثاني الرسالة ويحظر كاتبها. وهكذا يوسم المسؤولون البيانات مجانا من دون أن يلاحظوا ذلك بأنفسهم.

تعالج القائمة البيضاء مشكلة شائعة: يتفق معلن مع المسؤولين، لكن الروبوت يصنف منشوراته على أنها رسائل مزعجة ويحذفها. ويمكن إضافة الشخص باستخدام معرّفه الرقمي أو عبر إعادة توجيه إحدى رسائله إلى الروبوت. بعد ذلك يتجاهل الروبوت هذا المستخدم بالكامل. وفي الوقت الحالي، لا تتاح لوحة التحكم إلا لمالكي المحادثات، وليس لجميع المسؤولين.

صُممت الحماية من الحظر الخاطئ بطريقة بسيطة. لا يحدث الحظر التلقائي إلا إذا كان المستخدم مدرجا في قاعدة البيانات العالمية لمرسلي الرسائل المزعجة، وصنف النموذج رسالته على أنها مزعجة. وأصبحت عملية التحقق تتكون الآن من ثلاثة مستويات، لكن المؤلف لا يكشف ما الذي يُفحص في المستوى الثالث، حتى لا يتعلم مرسلو الرسائل المزعجة كيفية تجاوزه.

ما الذي تعطل وما الدروس المستفادة

خلال الصيف، لم يُعد المؤلف تدريب النموذج لمدة شهرين، فبدأ الروبوت يسمح بمرور رسائل مزعجة واضحة. وفي يوليو، جمع مجموعة بيانات حديثة تضم 30 000 سطر. ولتنويع اللغة اليومية في فئة «غير مزعج»، أضاف تعليقات من مجتمعات المدن على VKontakte. وفي إحدى جولات التدريب الإضافي، استُبدل Adam بـRAdam، ولا تزال النتائج في بيئة الإنتاج قيد المراقبة. والدرس مألوف لكل من يشغل أنظمة ML في بيئة الإنتاج: تتقادم البيانات، ويتكيف مرسلو الرسائل المزعجة أسرع مما قد يبدو.

تبقى المشكلة الأكثر إيلاما هي الرسائل المزعجة المرسلة في صورة صور وملصقات. فالنموذج النصي لا يراها ببساطة. ولم تنجح Tesseract وEasyOCR وRapidOCR في التعامل معها. نجح Qwen، لكن لا يمكن تشغيله محليا، كما أن استخدام واجهة API الخاصة به لن يكون رخيصا لمشروع هواية. ويقر المؤلف بصراحة بأنه لا يعرف بعد ما الذي ينبغي فعله. كما يشتبه في أن نموذج LSTM الخاص به «لا يعمل مثل LSTM»، ويعتزم إعادة بناء البنية المعمارية.

ما الذي يمكن استخلاصه من التجربة

إذا كنت تطور نظام إشراف لمجتمع، فهناك ثلاث أفكار جديرة بالتبني: التأكيد اليدوي بوصفه مصدرا مجانيا لوسم البيانات، واشتراط تحقق عاملين قبل الحظر، وإعادة التدريب بانتظام باستخدام بيانات حديثة. وإذا كنت تواجه رسائل مزعجة مصورة، فلا يبدو أن هناك حلا رخيصا يعتمد على OCR. وسيتعين مقارنة تكلفة استخدام LLM متعدد الوسائط بتكلفة تطوير نموذج خاص لمعالجة الصور.

القيود واضحة. فهذا مشروع شخصي يديره فرد واحد، والمؤشرات قدمها المؤلف نفسه ولم تخضع للتحقق المستقل، كما حُسبت نسبة الأخطاء البالغة 0.39% استنادا إلى وسومه هو. ومع ذلك، تظل القصة مفيدة بوصفها مثالا على كيفية نمو منتج صغير حتى يمتلك بنية تحتية حقيقية. موقع الإحصاءات هو tab.lancetnic.ru، والروبوت هو @tantispam_bot.