إدانة رجل لاستخدام الذكاء الاصطناعي لتوليد شكاوى مزيفة لإغلاق نادٍ ليلي

اعترف رجل أعمال لندني بالذنب في الإدلاء بشهادة زاذبة بقصد تحقيق إغلاق نادي الرقص Heaven — وفقًا لبيانات الشرطة، تم توليد رسائل تتضمن شكاوى حول المؤسسة باستخدام الذكاء الاصطناعي باسم أشخاص غير موجودين. قال مصدر في شرطة العاصمة (Metropolitan Police) بلندن لصحيفة The Guardian إن استخدام الذكاء الاصطناعي لإنشاء شكاوى وهمية نيابة عن مشتكين غير موجودين أصبح مشكلة متزايدة.

ما هو معروف عن القضية

اعترف الرجل بأنه أدلى ببيانات كاذبة موجهة نحو تحقيق إغلاق نادي الرقص Heaven — وهو مؤسسة لندنية معروفة. وفقًا للشرطة، استخدم الذكاء الاصطناعي لكتابة خطابات الشكوى، بينما لم يكن المشتكون أنفسهم الذين تم الطعن باسمهم موجودين في الواقع. لقد اعتبر مصدر من شرطة العاصمة مثل هذه الممارسة جزءًا من اتجاه أوسع وأكثر انتشارًا — توليد شكاوى كاذبة باستخدام الذكاء الاصطناعي لتحقيق أهداف مالية، سواء كان القضاء على منافس أو الانتقام أو ضغط آخر على عمل تجاري.

لماذا هذا إشارة مثيرة للقلق للمنظمين

• النادي الذي أصبح هدفًا للهجوم — Heaven، مؤسسة لندنية معروفة.
• مصدر المعلومات — ضابط شرطة العاصمة (شرطة لندن الرئيسية).
• الطريقة — توليد رسائل الشكوى باستخدام الذكاء الاصطناعي باسم أشخاص غير موجودين.
• النتيجة — اعترف رجل الأعمال بالذنب في الإدلاء ببيانات كاذبة.
• تقييم الشرطة — مثل هذه الحالات تشكل "مشكلة متزايدة".

تكشف الحالات مثل هذه عن فئة جديدة من المخاطر الناشئة مع أن الذكاء الاصطناعي التوليدي يصبح في متناول أي مستخدم: تم إنشاء الأدوات في الأصل للكتابة والرسائل والطعون، مما يجعل من الممكن دون جهد كبير إنشاء تدفق معقول من "السخط العام" حيث لا يوجد سخط حقيقي. على عكس الاحتيال الكلاسيكي بالمستندات المزيفة، لا تتطلب الإنتاج الضخم للشكاوى المقنعة من حيث الأسلوب والمضمون مهارات خاصة أو نفقات زمنية كبيرة — نموذج اللغة قادر على توليد عشرات الرسائل المصيغة بطريقة فريدة لكن متزامنة من حيث المضمون في غضون دقائق.

ما الذي يعنيه ذلك لنظام الشكاوى والترخيص

بالنسبة للهيئات التنظيمية والبلديات والشرطة، يعني ذلك الحاجة إلى تغيير النهج ذاته لتحقق من شكاوى المواطنين: إذا كان الحجم والتنوع الملموس الواردة في السابق تعتبر بحد ذاتها مؤشرًا على أصالة المشكلة، فيمكن الآن تزوير هذه الإشارة بسهولة. عادة ما تعتمد إجراءات الترخيص للمؤسسات — سواء كانت ملاهي ليلية أو حانات أو نشاطات تجارية أخرى تعتمد على الرأي العام والتصاريح البلدية — بشكل كبير على كمية ومحتوى شكاوى السكان. يحول الهجوم من خلال الطعون التي يوليدها الذكاء الاصطناعي هذه الآلية إلى نقطة ضعف: يمكن لمنافس بلا ضمير أو جهة مهتمة أن تحاكي "صوت الشعب" على نطاق صناعي.

يمكن اعتبار القضية أحد أول السوابق المتوثقة علنًا للمقاضاة الجنائية لاستخدام الذكاء الاصطناعي في هذا السيناريو المحدد — هجوم على عمل تجاري من خلال تزييف شكاوى المواطنين. مع تراكم مثل هذه الحالات، من المعقول توقع أن تبدأ الهياكل البلدية والشرطية في تطبيق أدوات التحقق من أصالة الشكاوى الخاصة بها — من التحقق من هوية المشتكي إلى تحليل النص للبحث عن علامات الجيل الآلي — وسيتم توضيح التشريعات فيما يتعلق بالمسؤولية عن استخدام الذكاء الاصطناعي لأغراض احتيالية.

يُلاحظ ديناميكية مماثلة بالفعل في مجالات أخرى تعتمد على الثقة العامة في الشهادة المكتوبة — من المراجعات المزيفة على مواقع مراجعات المطاعم والفنادق إلى العرائض الجماعية لصالح أو ضد قرارات معينة من السلطات المحلية. يقلل ظهور نماذج اللغة التي يمكن الوصول إليها من تكلفة إنتاج النص المقنع إلى الصفر عمليًا، مما يعني أن أي نظام يعتمد على كمية ومحتوى الطعون المكتوبة كمؤشر لرأي الجمهور معرض للتلاعب من هذا القبيل — بغض النظر عما إذا كان الأمر يتعلق بترخيص ملهى ليل أو استشارات عامة حول البناء أو الشكاوى المتعلقة بعمليات الأعمال المحلية.