كاتبة على «هابر» تنشئ حساباً مزيفاً في teamo وتختبر بوتات الاحتيال

أجرت كاتبة المقال على «هابر» تجربة بسيطة. أنشأت في تطبيق المواعدة teamo ملفاً شخصياً لشخص «في غاية الثراء والجاذبية»، وراحت تراقب من سيراسلها أولاً وفق أي سيناريو. الفكرة الأساسية: أكثر المستفيدين من الشبكات العصبية ليسوا الشركات الناشئة ولا الشركات الكبرى، بل المنظمات الاحتيالية. وتقول الكاتبة صراحة إنها تشتبه في ذلك لكنها لا تستطيع إثباته. لم نطّلع إلا على الإعلان التمهيدي، أما النص الكامل فمخفي خلف رابط «اقرأ المزيد»، ولذلك نعرض أدناه ما أُعلن عنه والسياق المحيط به.

كيف صُمّمت التجربة

بُني الملف الشخصي ليكون طُعماً. فالثراء الواضح والمظهر الجذاب يهدفان إلى استقطاب من يعملون وفق سيناريوهات معدّة مسبقاً. وهذه المخططات موجهة إلى الرجال والنساء على حد سواء، ولذلك قد يقع أي مستخدم ضحية لها.

جاء اختيار المنصة من الملاحظة: فمعارف الكاتبة وزملاؤها تلقّوا في أغلب الأحيان عروضاً مشبوهة من teamo تحديداً. وهذه عينة من دائرة شخصية، وليست إحصاءات عن المنصة. وتشير الكاتبة بشكل منفصل إلى أنه ساورها شعور بأن الخدمة تمرّر بيانات المستخدمين إلى جهات مهتمة بها. لكنها تعدّ ذلك احتمالاً ضعيفاً و«تريد أن تصدّق» أن الأمر ليس كذلك. أما الاحتمال الثاني فهو وجود ثغرة تتسرب منها البيانات، وتقول إن العثور على مثل هذه الثغرة ليس صعباً على المحترفين. ولا يزال كلا التفسيرين مجرد افتراض.

معطيات التجربة بحسب الإعلان:

• المنصة: تطبيق المواعدة teamo.
• الأداة: ملف شخصي أُنشئ خصيصاً لهذا الغرض، يعرض شخصاً ثرياً وجذاباً.
• موضوع المراقبة: بوتات المحتالين وسيناريوهاتهم، بما فيها تلك القائمة على الشبكات العصبية.
• الفرضية الرئيسية: المحتالون يحققون أعلى مردود اقتصادي من اعتماد الذكاء الاصطناعي (غير مثبتة).
• الفرضية الجانبية: تسرّب بيانات المستخدمين أو تمريرها (وترى الكاتبة أنها احتمال ضعيف).

لماذا تجعل الشبكات العصبية هذه المخططات واسعة النطاق

ما يلي تعليق منا، وليس معطيات من المقال. لطالما اصطدم الاحتيال العاطفي بحدود الوقت البشري. فالمشغّل يحتاج إلى إدارة عشرات المحادثات، والحفاظ على الشخصية المختلقة، والانتقال في الوقت المناسب إلى طلب المال. ويرفع النموذج اللغوي هذا القيد: فهو يردّ دون فترات انقطاع، ويكيّف أسلوبه مع أسلوب محدّثه، ولا يخلط في «سيرته الذاتية». وبذلك تنخفض كلفة المحادثة الواحدة، ويزداد عدد المحادثات، ومعه ترتفع نسبة التحويل.

وكان حجم المشكلة ملحوظاً حتى قبل الذكاء الاصطناعي. فبحسب بيانات لجنة التجارة الفيدرالية الأمريكية (FTC)، خسر ضحايا الاحتيال العاطفي في عام 2022 نحو 1,3 مليار دولار. وإذا كانت الأتمتة تحافظ على الفعالية ولو جزئياً وتخفّض التكاليف، فإن اقتصاديات هذا المخطط تصبح أكثر جاذبية. لذلك تبدو فرضية الكاتبة معقولة، وإن ظلت دون أرقام خاصة بها مجرد فرضية.

ولا يجيب الإعلان حتى الآن عن عدة أسئلة:

• كيف حددت الكاتبة أن محدّثها بوت؛
• في أي مرحلة من المحادثة يظهر طلب المال أو الانتقال إلى تطبيق مراسلة خارجي؛
• ما السيناريوهات التي تكررت؛
• هل توجد مؤشرات تقنية على التسرّب.

وعلى ذلك تتوقف قيمة النص الكامل: فالتحليل الجيد ينبغي أن يعرض محادثات فعلية وأنماطاً محددة، لا مجرد انطباع عام.

كيف تتجنب الوقوع في الفخ

عملياً، تساعد عدة علامات على كشف البوت.

• ردّ سريع جداً في أي ساعة من اليوم وأسلوب متسق إلى حد الكمال.
• التهرب من الأسئلة المحددة: الجواب يبدو سلساً لكنه لا يقدّم أي معلومة.
• اقتراح سريع بالانتقال إلى تطبيق مراسلة آخر أو إلى منصة خارجية.
• أي إحالات إلى «استثمارات مربحة» أو خدمات أو أدوات استثمار.
• طلب المال أو دفعة مقدمة أو بيانات البطاقة في أي مرحلة.

ويمكن التحقق من المحدّث عبر البحث العكسي عن الصور ومكالمة فيديو قصيرة. فالفيديو لم يعد يضمن الأصالة بسبب التزييف العميق، لكن المكالمة تظل عائقاً أمام المخطط واسع النطاق. وإذا طلب التطبيق أذونات زائدة، أو وصلت بعد التسجيل فجأة رسائل مزعجة ورسائل بريد مشبوهة، فمن المنطقي أن تتساءل إلى أين تتسرب البيانات. وبالنسبة للخدمة نفسها، فهذه إشارة إلى ضرورة تعزيز الإشراف ومكافحة الاحتيال، أما لفرق الأمن فهي سبب لمراقبة السمات السلوكية للبوتات، لا نص الرسائل وحده.