AI لدى Meta يغرق المحققين ببلاغات «قمامة» عن الاعتداء الجنسي على الأطفال

عندما تؤكد شركة تكنولوجية أنها تستخدم الذكاء الاصطناعي لحماية الأطفال، يبدو الأمر كخير مطلق. لكن ماذا يحدث عندما يعمل هذا الذكاء الاصطناعي بشكل سيء لدرجة أنه يتحول من أداة حماية إلى عقبة أمام الذين يحققون فعلاً في جرائم ضد القاصرين؟ هذا هو السؤال الذي أصبح محوريًا في دعوى قضائية ضد ميتا في ولاية نيو مكسيكو.

قدم بنجامين تسفايبل، وكيل خاص في فريق العمل متعدد الوكالات الذي يحقق في الجرائم ضد الأطفال على الإنترنت (ICAC)، شهادة يصعب وصفها بأي شيء آخر غير مدانة. قال في المحكمة: "نتلقى عددًا ضخمًا من الإشارات من ميتا وهي في الواقع قمامة". الـ ICAC عبارة عن شبكة وطنية من وكالات إنفاذ القانون يتنسقها وزارة العدل الأمريكية، وتتمثل مهمتها في التحقيق ومقاضاة حالات الاستغلال الجنسي وإساءة معاملة الأطفال على الإنترنت. عندما يصف الأشخاص الذين يقومون بهذا العمل الشاق للغاية تقاريرك بأنها قمامة، فهذا إشارة خطيرة.

المشكلة ذات طابع نظامي. تملك ميتا، التي تمتلك فيسبوك وإنستجرام وواتساب، أنظمة مؤتمتة قائمة على الذكاء الاصطناعي للكشف عن المحتوى المرتبط بمواد الاستغلال الجنسي للأطفال (CSAM). عندما تكتشف النظام مادة مريبة، فإنه ينتج تقريرًا يُرسل إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، ومن هناك إلى وكالات إنفاذ القانون، بما فيها الـ ICAC. من الناحية النظرية، يبدو هذا وكأنه خط أنابيب مثالي. من الناحية العملية، وفقًا لشهادات المحققين، فإن تعديل ميتا القائم على الذكاء الاصطناعي ينتج حجمًا من الإيجابيات الكاذبة بحيث تغرق الحالات الحقيقية في تيار من الإشارات منخفضة الجودة. كل تقرير يتطلب التحقق — وهذا وقت يمكن للمحققين استخدامه في الحالات الحقيقية.

من الجدير هنا أن نفهم السياق الأوسع. الدعوى القضائية في نيو مكسيكو هي جزء من موجة متزايدة من الدعاوى ضد ميتا من قبل الولايات الأمريكية. يؤكد المدعي العام لنيو مكسيكو أن منصات الشركة تضع الربح بشكل منهجي فوق سلامة الأطفال. يتردد هذا الاتهام مع شهادات الموظفين السابقين والوثائق الداخلية التي أفشتها فرانسيس هاوجن في عام 2021. ترفض ميتا، من جانبها، الاتهامات وتشير إلى التدابير الحماية التي نفذتها — بما في ذلك حسابات المراهقين مع إعدادات الخصوصية المفعلة افتراضيًا. لكن شهادة تسفايبل تضرب أحد الحجج الرئيسية للدفاع: لا يمكن للشركة أن تؤكد في نفس الوقت أنها تكافح بنشاط CSAM وأن تغرق المحققين في تقارير عديمة الفائدة.

من الناحية الفنية، مشكلة التقارير "القمامة" معروفة جيدًا لمتخصصي التعلم الآلي. تعمل أنظمة تصنيف المحتوى على توازن بين الدقة والاستدعاء: يمكنك ضبط النموذج للتقاط كل شيء مريب تقريبًا، لكن بعد ذلك تزداد الإيجابيات الكاذبة بشكل حاد. يمكنك رفع الحد — عندها يمر بعض CSAM الحقيقي دون ملاحظة. اختارت ميتا على ما يبدو استراتيجية التغطية القصوى، مما يسمح لها بالإبلاغ عن أرقام مثيرة للإعجاب من الحالات المكتشفة. لكن هذه الأرقام تثبت أنها فارغة إلى حد كبير، والثمن يدفعه المحققون وفي النهاية الأطفال الذين تتأخر قضاياهم الحقيقية بسبب الإرهاق النظامي.

يكشف هذا الوضع عن مشكلة أعمق في الصناعة: أتمتة تعديل المحتوى تخدم في كثير من الأحيان ليس حماية المستخدمين فعلاً، بل خلق مظهر من النشاط. بالنسبة لميتا، ملايين التقارير المولدة تلقائيًا هي حجة في المحكمة وأمام المنظمين. بالنسبة للمحقق الذي يجب عليه التحقق يدويًا من كل واحد منهم، فهذا كابوس بيروقراطي يسرق الوقت من القضايا الحقيقية. يجعل حجم منصات ميتا — مليارات المستخدمين — المشكلة حادة بشكل خاص: حتى نسبة صغيرة من الإيجابيات الكاذبة بالأرقام المطلقة تصبح انهيارًا جليديًا.

الدعوى القضائية في نيو مكسيكو بعيدة كل البعد عن الانتهاء، لكن شهادة تسفايبل أصبحت بالفعل من أكثر اللحظات المشار إليها. تطرح سؤالاً غير مريح على الصناعة: هل يكفي ببساطة تطبيق الذكاء الاصطناعي والإبلاغ عن عدد الإشارات المرسلة، أم أن الشركات ملزمة بتحمل المسؤولية عن جودة تلك الإشارات؟ إذا كانت الأتمتة للتعديل تخلق مشاكل أكثر مما تحل، فإنها تتوقف عن أن تكون أداة أمان وتصبح أداة لعلاقات عامة الشركة. وعندما يتعلق الأمر بسلامة الأطفال، فإن تكلفة هذا النهج لا تُقاس بخسائر السمعة، بل بالحياة الحقيقية.