ذكاء Meta الاصطناعي يغرق المحققين ببلاغات «عديمة الجدوى» عن الاعتداء على الأطفال

عندما تعلن شركة تقنية أنها تستخدم الذكاء الاصطناعي لحماية الأطفال، يبدو الأمر خيرًا خالصًا. لكن ماذا يحدث حين يعمل هذا الذكاء الاصطناعي بكفاءة متدنية إلى حد يحوّله من أداة حماية إلى عائق أمام من يحققون فعلًا في الجرائم ضد القاصرين؟ هذا السؤال بالذات يفرض نفسه اليوم في المحاكمة المرفوعة ضد Meta في ولاية نيو مكسيكو.

أدلى بنجامين زويبل، العميل الخاص في فرقة العمل المشتركة بين الوكالات للتحقيق في الجرائم الإلكترونية ضد الأطفال (ICAC)، بشهادة يصعب وصفها بغير أنها إدانة. وقال أمام المحكمة: «نتلقى من Meta كمًّا هائلًا من البلاغات التي تُعدّ في جوهرها قمامة». وICAC شبكة وطنية من أجهزة إنفاذ القانون تنسّقها وزارة العدل الأمريكية، وتتمثل مهمتها في التحقيق في حالات الاستغلال الجنسي للأطفال والاعتداء عليهم عبر الإنترنت وملاحقتها قضائيًا. وحين يصف العاملون في هذه المهمة الشاقة بلاغاتكم بأنها قمامة، فهذه إشارة خطيرة.

والمشكلة منهجية. فشركة Meta، المالكة لـFacebook وInstagram وWhatsApp، تعتمد على أنظمة آلية مدعومة بالذكاء الاصطناعي لرصد المحتوى المرتبط بالاعتداء الجنسي على الأطفال (CSAM). وحين يرصد النظام مادة مشبوهة، يولّد بلاغًا يُرسل إلى المركز الوطني للأطفال المفقودين والمستغَلّين (NCMEC)، ومنه إلى أجهزة إنفاذ القانون، ومنها ICAC. من الناحية النظرية يبدو ذلك خط إنتاج مثاليًا. أما عمليًا، فبحسب شهادات المحققين، ينتج الإشراف الآلي لدى Meta حجمًا من الإنذارات الكاذبة يجعل القضايا الحقيقية تضيع وسط سيل من البلاغات الرديئة. فكل بلاغ يتطلب فحصًا، وهذا وقت يُقتطع من المحققين الذين كان بإمكانهم التفرغ للقضايا الحقيقية.

ومن المفيد هنا النظر إلى السياق الأوسع. فالمحاكمة في نيو مكسيكو جزء من موجة متصاعدة من الدعاوى ضد Meta رفعتها ولايات أمريكية. ويزعم المدعي العام لنيو مكسيكو أن منصات الشركة تقدّم الأرباح على سلامة الأطفال بصورة منهجية. ويتقاطع هذا الاتهام مع شهادات موظفين سابقين في الشركة ومع وثائق داخلية سرّبتها فرانسيس هاوغن في عام 2021. أما Meta فترفض الاتهامات من جهتها، وتشير إلى إجراءات الحماية التي أدخلتها، ولا سيما حسابات المراهقين ذات إعدادات الخصوصية الافتراضية. غير أن شهادة زويبل تضرب إحدى الحجج الرئيسية للدفاع: فلا يمكن للشركة أن تزعم في آن واحد أنها تكافح CSAM بنشاط، وأن تُغرق المحققين ببلاغات عديمة الفائدة.

والمشكلة التقنية المتعلقة بالبلاغات «عديمة الجدوى» مألوفة جيدًا لمتخصصي تعلّم الآلة. فأنظمة تصنيف المحتوى تعمل على موازنة بين الدقة والاستدعاء: يمكن ضبط النموذج بحيث يلتقط كل ما هو مشبوه تقريبًا، لكن عدد الإنذارات الكاذبة سيرتفع حينها بشكل حاد. ويمكن رفع العتبة، لكن جزءًا من المحتوى الفعلي لـCSAM سيمرّ دون رصد. ويبدو أن Meta اختارت استراتيجية أقصى تغطية، ما يتيح لها الإعلان عن أرقام مبهرة للحالات المرصودة. لكن هذه الأرقام تبقى في معظمها فارغة المضمون، ويدفع ثمنها المحققون، وفي نهاية المطاف الأطفال أنفسهم، الذين تتأخر قضاياهم الحقيقية بسبب الحمل الزائد على المنظومة.

ويكشف هذا الوضع مشكلة أعمق في القطاع: فأتمتة الإشراف على المحتوى كثيرًا ما تخدم خلق انطباع بالعمل النشط أكثر مما تخدم الحماية الفعلية للمستخدمين. فبالنسبة إلى Meta، تمثل ملايين البلاغات المولّدة آليًا حجة أمام القضاء والجهات التنظيمية. أما بالنسبة إلى المحقق الذي عليه فحص كل بلاغ منها يدويًا، فهي كابوس بيروقراطي يلتهم وقت القضايا الحقيقية. ويجعل حجم منصات Meta، بمليارات المستخدمين، المشكلة حادة بصورة خاصة: فحتى نسبة صغيرة من الإنذارات الكاذبة تتحول بالأرقام المطلقة إلى انهيار جليدي.

ولا تزال محاكمة نيو مكسيكو بعيدة عن نهايتها، لكن شهادة زويبل أصبحت بالفعل من أكثر اللحظات اقتباسًا فيها. وهي تطرح على القطاع سؤالًا محرجًا: هل يكفي مجرد تطبيق الذكاء الاصطناعي والإبلاغ عن عدد الإشارات المرسلة، أم أن على الشركات تحمّل مسؤولية جودة هذه الإشارات؟ فإذا كانت أتمتة الإشراف تخلق من المشكلات أكثر مما تحل، فإنها تكفّ عن كونها أداة أمان وتصبح أداة علاقات عامة للشركة. وحين يتعلق الأمر بسلامة الأطفال، فإن ثمن هذا النهج لا يُقاس بالخسائر في السمعة، بل بأرواح حقيقية.

*Meta مصنّفة منظمة متطرفة ومحظورة في روسيا.