OpenAI تطلق مرشِّحًا لصور الأطفال المزيفة للمحققين: إنذارات كاذبة أقل بنسبة 48%
تغرق خطوط الإبلاغ عن إساءة الأطفال في المواد المزيفة المولّدة بالذكاء الاصطناعي: ففي عام 2025 تلقّى مركز NCMEC نحو 400 ألف بلاغ تتعلق بالذكاء الاصطناعي التوليدي، مقابل 67 ألفًا قبل عام. وأطلقت OpenAI مصنِّفًا يكشف الصور التي تتضمن اعتداءً على الأطفال (CSAM) ويحدد ما إذا كانت مولَّدة بالذكاء الاصطناعي. وبحسب الشركة، انخفضت الإنذارات الكاذبة بنسبة 48%، وتضاعفت نسبة المواد المرصودة التي تتبيّن فعلًا أنها محظورة. وعلى المنصات التي تستضيف صور المستخدمين أن تدمج هذا النوع من الفرز في منظومة الإشراف لديها.
معالج بواسطة الذكاء الاصطناعي من The Verge؛ بتحرير Hamidun News
تخيّلوا محققًا مناوبًا تتكدس أمامه مئات الإشارات التحذيرية عن صور أطفال، وأغلبها إما مزيف رسمته شبكة عصبية أو صور بريئة تمامًا. وبينما يغربل هذه الفوضى، ينتظر طفل حقيقي يحتاج إلى المساعدة. هذه بالضبط المشكلة التي تواجهها الجهات الأمريكية، وقد عرضت OpenAI في إحاطة صحفية في واشنطن أداة للفرز: مصنِّف، أي نموذج ينظر إلى الصورة ويقرر ما إذا كانت تتضمن اعتداءً جنسيًا على الأطفال (يُعرف في الممارسة الناطقة بالإنجليزية باسم CSAM). والنتيجة المعلنة: إنذارات كاذبة أقل بنسبة 48%، ونسبة المواد التي تحتوي فعلًا على محتوى محظور بين الصور الموسومة أعلى بمرتين.
ما الذي أطلقته OpenAI بالتحديد
أبرز ما يميّز المصنِّف وسم منفصل هو «مولَّد بالذكاء الاصطناعي». وبحسب جون باكلي، رئيس قسم السياسات العامة المعني بسلامة الأطفال في OpenAI، فهذه أول أداة متاحة على نطاق واسع من هذا النوع تتضمن مثل هذا الوسم. وهي مصممة للصور القادمة من مصادر مختلفة، بما في ذلك النماذج المفتوحة والتطبيقات التي «تُعرّي» الصور.
ولنترجم الأرقام إلى واقع عملي. إذا كان النظام يُصدر سابقًا، على سبيل المثال، مئة إنذار، فإنه يضع الآن علامات زائدة أقل بنحو النصف، فيما ترتفع نسبة الاكتشافات الحقيقية بين ما تبقّى إلى الضعف. وهكذا تقلّ الضوضاء في قائمة عمل المحقق وتزداد المواد التي يمكن العمل عليها. تحفّظ: هذه البيانات تقدّمها OpenAI نفسها، ولا يتضمن المقال أي تحقق مستقل منها.
وإلى جانب النموذج، تَعِد الشركة بثلاثة أمور: إتاحة مجانية للمؤسسات الموثوقة، وإرشادات منهجية للمطورين حول كيفية رصد هذا المحتوى، وتدريب العاملين في أجهزة إنفاذ القانون على كيفية مساعدة الذكاء الاصطناعي في التحقيقات.
لماذا أصبحت المسألة عاجلة
في الولايات المتحدة، يتلقى المركز الوطني للأطفال المفقودين والمستغَلّين (NCMEC) الشكاوى المتعلقة بهذه المواد ويفرزها عبر نظام CyberTipline. ففي عام 2024 ورد إليه 67 ألف بلاغ مرتبط بالذكاء الاصطناعي التوليدي، وفي عام 2025 بلغ العدد 400 ألف. ويحذّر باحثون من أن هذا العبء قد يصبح «لا يُحتمل». والمسألة لا تتعلق بالكمّ وحده: فتدفق الصور المزيفة يعوق معرفة ما إذا كان طفل بعينه يتعرض للأذى في هذه اللحظة.
ووصف جيف جاكسون، المدعي العام لولاية نورث كارولاينا والرئيس المشارك لفريق العمل المعني بالذكاء الاصطناعي في AG Alliance، نمو البلاغات بأنه «انفجاري»، وقال إنه بهذه الوتيرة «سنفشل في مهمتنا». وبحسب قوله، يلاحق المدّعون العامون عادةً بعد وقوع الضرر، أما هنا فقد جرّبوا نموذجًا للوقاية المشتركة. وقد وصفه هو نفسه بأنه «تجربة في جوهره».
وشدّد باكلي على أن التمييز بين طفل خيالي وطفل حقيقي مهم عند إحالة البلاغات إلى الشرطة. ومع ذلك، يرى أن القوانين ينبغي أن تعترف بالضرر الناجم عن النسخ المولَّدة بالذكاء الاصطناعي أيضًا، لأنها تقوّض الأعراف الاجتماعية وغالبًا ما تظهر إلى جانب مواد عن أطفال حقيقيين.
ضغط الجهات التنظيمية والإجراءات داخل ChatGPT
السياق الذي تعمل فيه OpenAI ليس سهلًا. ففي 48 ولاية أمريكية قوانين بشأن التزييف العميق الجنسي، ويُلزم قانون Take It Down المنصات بحذف الصور الحميمة المنشورة دون موافقة، سواء كانت حقيقية أو مولَّدة، خلال 48 ساعة. وقد يشدّد الكونغرس الجديد المتطلبات المفروضة على شركات الذكاء الاصطناعي. وفي الشهر الماضي رفعت ثماني ولايات دعوى ضد OpenAI بسبب أضرار أخرى مزعومة لحقت بالأطفال، منها اتهامات بأن ChatGPT شجّع على تعاطي مواد محظورة وعلى الانتحار.
وكان مولّد الصور في ChatGPT يرفض هذه الطلبات من قبل أيضًا. أما الآن فيرى المستخدم الذي يحاول إنشاء مثل هذا المحتوى تحذيرًا أُعدّ بمشاركة خبراء، يدعوه إلى طلب المساعدة. وتؤدي المحاولة الأولى إلى إيقاف مؤقت للوصول إلى ChatGPT لمدة 24 ساعة، مع تنبيه إلى أن الحساب قد يُغلق نهائيًا. وتقول OpenAI إنها تبلّغ NCMEC عن جميع حالات CSAM.
ماذا يعني ذلك للممارسين
أولًا، يتحول وسم «ذكاء اصطناعي أو لا» إلى أداة عملية لترتيب الأولويات، وسيُنتظر من المنصات التي تتيح تحميل الصور أن تفعل الأمر نفسه. ثانيًا، هناك قيود: فالإتاحة مقتصرة على المؤسسات الموثوقة، وليست متاحة لأي مطوِّر، كما أن المشروع ما زال في طور التجربة. وإذا كنتم تطوّرون توليد الصور أو استضافة صور المستخدمين، فمن المفيد أن تفكروا مسبقًا في السلسلة كاملة: مرشِّح عند المدخل، ثم فرز للمحتوى المشتبه به، ثم إحالة البلاغات إلى الجهات المختصة.
- 22 نوفمبر 2026وكيل Microsoft كتب أوزان الشبكة العصبية يدويًا وحقق دقة 100% في 13 مهمة
- 22 نوفمبر 2026من مشروع هواية إلى شركة ناشئة بقيمة 3 مليارات دولار: LangChain تجمع 300 مليون دولار بعد أربع سنوات
- 22 نوفمبر 2026الملف الشخصي للعمل في Android يسدّ تسرّب عنوان IP الحقيقي الذي لا يرصده Happ ولا v2rayNG
- 22 نوفمبر 2026Anthropic تدخل ناسداك: السهم من 83 إلى 111 دولارًا، لكن هل ستصمد معايير السلامة؟
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ما الذي أطلقته OpenAI بالتحديد؟
أبرز ما يميّز المصنِّف وسم منفصل هو «مولَّد بالذكاء الاصطناعي». وبحسب جون باكلي، رئيس قسم السياسات العامة المعني بسلامة الأطفال في OpenAI، فهذه أول أداة متاحة على نطاق واسع من هذا النوع تتضمن مثل هذا الوسم. وهي مصممة للصور القادمة من مصادر مختلفة، بما في ذلك النماذج المفتوحة والتطبيقات التي «تُعرّي» الصور. ولنترجم الأرقام إلى واقع عملي. إذا كان النظام يُصدر سابقًا، على سبيل المثال، مئة إنذار، فإنه يضع الآن علامات زائدة أقل بنحو النصف، فيما ترتفع نسبة الاكتشافات الحقيقية بين ما تبقّى إلى الضعف.
ما أبرز التفاصيل حول لماذا أصبحت المسألة عاجلة؟
في الولايات المتحدة، يتلقى المركز الوطني للأطفال المفقودين والمستغَلّين (NCMEC) الشكاوى المتعلقة بهذه المواد ويفرزها عبر نظام CyberTipline. ففي عام 2024 ورد إليه 67 ألف بلاغ مرتبط بالذكاء الاصطناعي التوليدي، وفي عام 2025 بلغ العدد 400 ألف. ويحذّر باحثون من أن هذا العبء قد يصبح «لا يُحتمل». والمسألة لا تتعلق بالكمّ وحده: فتدفق الصور المزيفة يعوق معرفة ما إذا كان طفل بعينه يتعرض للأذى في هذه اللحظة.
ما أبرز التفاصيل حول ضغط الجهات التنظيمية والإجراءات داخل ChatGPT؟
السياق الذي تعمل فيه OpenAI ليس سهلًا. ففي 48 ولاية أمريكية قوانين بشأن التزييف العميق الجنسي، ويُلزم قانون Take It Down المنصات بحذف الصور الحميمة المنشورة دون موافقة، سواء كانت حقيقية أو مولَّدة، خلال 48 ساعة. وقد يشدّد الكونغرس الجديد المتطلبات المفروضة على شركات الذكاء الاصطناعي. وفي الشهر الماضي رفعت ثماني ولايات دعوى ضد OpenAI بسبب أضرار أخرى مزعومة لحقت بالأطفال، منها اتهامات بأن ChatGPT شجّع على تعاطي مواد محظورة وعلى الانتحار. وكان مولّد الصور في ChatGPT يرفض هذه الطلبات من قبل أيضًا.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.