OpenAI تنشر خطة لحماية الأطفال من الاستغلال الجنسي باستخدام الذكاء الاصطناعي

نشرت OpenAI وثيقة جديدة بعنوان Child Safety Blueprint، أي «خطة سلامة الأطفال»، تحدد فيها نهجها في منع استخدام الذكاء الاصطناعي التوليدي لإنشاء مواد الاستغلال الجنسي للأطفال ونشرها. وتأتي الوثيقة في ظل ضغوط متزايدة من الجهات التنظيمية والمنظمات الحقوقية والرأي العام.

اكتسبت المشكلة أبعادًا جديدة تمامًا مع انتشار الذكاء الاصطناعي التوليدي. فإذا كان إنتاج CSAM (مواد الاستغلال الجنسي للأطفال) يتطلب في السابق الاتصال بضحايا حقيقيين، فبإمكان المعتدين اليوم إنشاء صور ومقاطع فيديو اصطناعية واقعية دون أي تماس جسدي مع أي طفل. ووفق بيانات المركز الوطني للأطفال المفقودين والمستغَلّين (NCMEC)، تضاعف عدد البلاغات المتعلقة بتوليد هذا النوع من المحتوى بالذكاء الاصطناعي مرات عديدة خلال العامين الماضيين.

وتحدد OpenAI أربعة محاور رئيسية للعمل. الأول هو الوقاية على مستوى النموذج: فالأنظمة مدرَّبة على رفض الطلبات التي قد تؤدي إلى توليد محتوى ضار، وتُختبر النماذج لقياس مقاومتها لـ«كسر الحماية» (jailbreak)، أي تقنيات الالتفاف التي تتيح خرق القيود المفروضة. الثاني هو الاستجابة والإبلاغ: تستخدم الشركة قواعد بيانات التجزئة (hash) التابعة لـNCMEC وTechnology Coalition لحظر تداول المواد المعروفة تلقائيًا، وترسل بلاغات منتظمة إلى أجهزة إنفاذ القانون. الثالث هو الشراكة مع المنظمات التي تعمل عمليًا على حماية الأطفال. والرابع هو دراسة أنواع جديدة من الهجمات ونقاط الضعف مع تطور التقنيات.

وتشكّل مشكلة «الضحايا الاصطناعيين» تحديًا خاصًا، وهم أطفال لا وجود لهم في الواقع لكن صورًا واقعية لهم يولّدها الذكاء الاصطناعي. ولا يزال التنظيم القانوني متفاوتًا: ففي بعض الولايات القضائية يُعامَل CSAM الاصطناعي معاملة مواد الضحايا الحقيقيين تمامًا، بينما يقع في ولايات أخرى ضمن منطقة رمادية قانونية. وموقف OpenAI حاسم: يجب تصنيف كل محتوى من هذا النوع على أنه CSAM بغض النظر عن طريقة إنتاجه.

وردود فعل القطاع متباينة. يرى بعض الخبراء في الوثيقة خطوة مهمة نحو الشفافية وتوحيد المعايير. في المقابل، يشير منتقدون آخرون إلى أن الفجوة بين الالتزامات المعلنة والفاعلية الفعلية لأنظمة الحماية قد تكون كبيرة، إذ رصدت عدة مجموعات بحثية بالفعل حالات نجح فيها الالتفاف على النماذج عبر حوارات متعددة الخطوات. أما مدى صمود حماية OpenAI أمام هجمات كهذه فستكشفه الممارسة العملية.

وبالتوازي، يناقش القطاع معايير موحدة. وتعمل Technology Coalition، التي تضم Amazon وApple وGoogle وMeta* وMicrosoft وعددًا من الشركات الأخرى، على تطوير إطار أمان شامل لمطوري الذكاء الاصطناعي التوليدي. غير أن وتيرة توحّد القطاع لا تزال أبطأ من وتيرة ظهور التهديدات الجديدة.

ويشير نشر خطة سلامة الأطفال إلى أن حماية القاصرين أصبحت عنصرًا إلزاميًا في أجندة شركات الذكاء الاصطناعي، إلى جانب خصوصية البيانات ومكافحة التضليل. والشركات التي لا تضع معايير خاصة بها، سواء طوعًا أو تحت ضغط الجهات التنظيمية، تخاطر بمواجهة قيود تشريعية وخسائر جسيمة في السمعة.

*Meta مصنفة منظمة متطرفة ومحظورة في روسيا.