ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارAPI / منتج · جاهز للعملOpenAI Blog→ المصدر

OpenAI تتيح مجانًا كاشفًا لمواد CSAM: يضع علامة على صور أقل بنسبة 48% مع النتائج نفسها تقريبًا

CSAM هي مواد الاعتداء الجنسي على الأطفال، وعلى المنصات التي تتيح رفع الصور أن تبحث عنها. أطلقت OpenAI مصنِّفًا يرصد هذه الصور، بما فيها المولَّدة بالذكاء الاصطناعي، وتتيحه مجانًا للمؤسسات الموثوقة عبر API. وفي الاختبار وضع علامة على صور أقل بنسبة 48% من الحماية السابقة، بينما رصد عددًا شبه مماثل من المخالفات. وهكذا يتعرض المشرفون لمحتوى قاسٍ أقل.

معالج بواسطة الذكاء الاصطناعي من OpenAI Blog؛ بتحرير Hamidun News
OpenAI تتيح مجانًا كاشفًا لمواد CSAM: يضع علامة على صور أقل بنسبة 48% مع النتائج نفسها تقريبًا
المصدر: OpenAI Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليOpenAI Blog ↗
رئيس التحرير
حقيقة رئيسية #1ارتفعت نسبة المخالفات الحقيقية بين الصور الموسومة إلى نحو الضعف
Falأكّد المشرفون 72% من الحالات التي رصدها المصنِّف بثقة بوصفها CSAM جديدًا
SafetyKitعثر النموذج على 90% من الرسومات والرسوم المتحركة التي تتضمن تجنيسًا للأطفال

CSAM هي مواد الاعتداء الجنسي على الأطفال. وأي خدمة يرفع فيها المستخدمون صورًا أو يولّدونها بالشبكات العصبية ستواجه هذا المحتوى عاجلًا أم آجلًا. والمشكلة ليست قانونية فحسب. فالمشرفون البشر مضطرون إلى النظر في هذه الصور، والمرشِّح الرديء يغرقهم بإنذارات كاذبة. وفي 16 نوفمبر 2026 عرضت OpenAI حزمة إجراءات، أهمها مصنِّف جديد للصور. يضع هذا المصنِّف علامة على صور أقل بنسبة 48% مما تضعه الحماية السابقة للشركة، مع عدد شبه مماثل من المخالفات المرصودة. وللتوضيح: لو كان المرشِّح القديم يحيل 1000 صورة إلى المشرفين، فسيحيل الجديد نحو 520 صورة، وعدد المخالفات الحقيقية بينها سيكون هو نفسه. والمصنِّف متاح مجانًا للمؤسسات الموثوقة.

ما الذي يفعله المصنِّف ومن سيحصل عليه

يحلّل النموذج الصور ويبحث عن علامات بصرية للاعتداء. وهو موجَّه إلى الصور الجديدة التي لم يسبق للنظام أن رآها. وهذا مهم لأن قواعد بيانات البصمات (hash) التقليدية لا ترصد إلا الملفات المعروفة مسبقًا. ولا يعيد المصنِّف حكمًا بـ«نعم» أو «لا»، بل يعيد تقييمات يقرر المراجعون على أساسها أي الصور يُنظر فيها أولًا.

وتصفه OpenAI بأنه أول مصنِّف CSAM متاح على نطاق واسع يبيّن بشكل منفصل ما إذا كانت المادة قد تكون مولَّدة بالذكاء الاصطناعي. وجرى تدريب النموذج وتقييمه بمشاركة NCMEC، المركز الوطني الأمريكي للأطفال المفقودين والمستغَلّين. ويدير المركز CyberTipline، القناة الموحدة للبلاغات عن استغلال الأطفال على الإنترنت.

ستحصل المؤسسات الموثوقة على الوصول عبر OpenAI API، وبالمجان. واستعانت الشركة بـ Tech Coalition وROOST في التوزيع. ويجب تقديم الطلب عبر نموذج مخصص. ويتوفر للنموذج model card.

ووفق بيانات OpenAI نفسها، كان المصنِّف الجديد سيضع علامة، على صور المستخدمين، على صور أقل بنسبة 48% مما تضعه الحماية الحالية، مع رصد عدد مماثل تقريبًا من المخالفات. وبين الصور الموسومة كانت الحالات الحقيقية تظهر بمعدل يقارب الضعف. ويقدم شركاء الوصول المبكر أرقامهم الخاصة:

  • fal: على صور بيئة الإنتاج التي راجعها بشر، أكّد المشرفون 72% من الحالات التي رصدها المصنِّف بثقة بوصفها CSAM جديدًا؛
  • invideo AI: انتهت واحدة من كل أربع حالات موسومة بحظر؛
  • SafetyKit: على الرسومات والرسوم المتحركة التي تجنّس الأطفال، عثر النموذج على 90% من الحالات.

تحذيرات في ChatGPT

يتعلق الجزء الثاني بروبوت الدردشة نفسه. فطلبات الحصول على CSAM في ChatGPT محظورة أصلًا، والنماذج مدرَّبة على الرفض. والآن تُضاف تحذيرات تقطع محاولة البحث عن هذه المواد. وهي تشرح العواقب وتوجّه الشخص إلى مختصين يساعدون على وقف السلوك الضار. ويؤكد النص صراحةً أن تجنيس الأطفال ضارّ حتى لو كانت المادة مولَّدة بالذكاء الاصطناعي.

ثم تعمل سلّم من الإجراءات. تُحذف المحادثة ويُعلَّق الوصول إلى ChatGPT لمدة 24 ساعة. وعند تكرار المخالفات تطول القيود، وقد يُغلق الحساب ويُبلَّغ السلطات. وشارك في تطوير هذا النهج كل من Protect Children وLucy Faithfull Foundation ومستشارون أكاديميون من جامعتي كنت وتسمانيا.

ماذا يعني ذلك للمطورين

نشرت OpenAI دليلًا عمليًا حول CSAM: كيف تمنع إساءة الاستخدام وتكتشف المحتوى وتتصرف. وقد أُعدّ بمشاركة Tech Coalition وThorn وNCMEC وInternet Watch Foundation. ويتناول الدليل ما يلي:

  • قواعد استخدام المنتج؛
  • الطرق التي يبلّغ بها المستخدمون عن المشكلات؛
  • أدوات الكشف؛
  • عملية المراجعة وإحالة البلاغات؛
  • معرّفات الأمان التي تساعد على ربط الإساءة بمستخدم محدد؛
  • دعم المشرفين أنفسهم.

ويُقترح استخدام الدليل مع Moderation API ولوحة المراجعة ROOST Coop وخدمات متخصصة مثل Thorn Safer. وبالتعاون مع Anthropic وGoogle، كلّفت OpenAI بإعداد توصيات حول كيفية تعامل أنظمة الذكاء الاصطناعي مع اعترافات المستخدمين بارتكاب اعتداءات. ونشرتها Tech Coalition. وبحسب الشركة، ازداد بعد نشر الدليل عدد المطورين الذين يفعّلون أدوات سلامة الأطفال ويسجّلون لإرسال البلاغات إلى NCMEC.

وتقدم OpenAI لجهات إنفاذ القانون التي تحقق في هذه القضايا تدريبًا وأدوات ذكاء اصطناعي. وتساعد أولاها على تحليل المراسلات الطويلة والردود على الطلبات القانونية، وإيجاد الروابط وبناء تسلسل زمني مع إشارات إلى المصادر. ويعتمد الوصول إلى هذه الأدوات على إذن الجهة المعنية.

القيود

جميع الأرقام مستمدة من اختبارات OpenAI نفسها وشركائها الأوائل، ولا توجد في المادة فحوص مستقلة. ولم تُكشف العيّنات والمنهجية بالتفصيل، ويُستحسن الرجوع إلى model card لمعرفتها. والوصول مقتصر على المؤسسات الموثوقة، فلا تستطيع شركة ناشئة صغيرة تفعيل النموذج دون الموافقة على طلبها.

والخلاصة العملية لفرق المنتجات: إذا كان لديكم رفع للصور أو توليد لها، فخطِّطوا مسبقًا لسلسلة تضم المرشِّح وقائمة المراجعة وإرسال البلاغات والعناية بالمشرفين. ويجعل الدليل والنموذج المجاني هذا المسار أرخص بوضوح.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي يفعله المصنِّف ومن سيحصل عليه؟

يحلّل النموذج الصور ويبحث عن علامات بصرية للاعتداء. وهو موجَّه إلى الصور الجديدة التي لم يسبق للنظام أن رآها. وهذا مهم لأن قواعد بيانات البصمات (hash) التقليدية لا ترصد إلا الملفات المعروفة مسبقًا. ولا يعيد المصنِّف حكمًا بـ«نعم» أو «لا»، بل يعيد تقييمات يقرر المراجعون على أساسها أي الصور يُنظر فيها أولًا. وتصفه OpenAI بأنه أول مصنِّف CSAM متاح على نطاق واسع يبيّن بشكل منفصل ما إذا كانت المادة قد تكون مولَّدة بالذكاء الاصطناعي.

ما أبرز التفاصيل حول تحذيرات في ChatGPT؟

يتعلق الجزء الثاني بروبوت الدردشة نفسه. فطلبات الحصول على CSAM في ChatGPT محظورة أصلًا، والنماذج مدرَّبة على الرفض. والآن تُضاف تحذيرات تقطع محاولة البحث عن هذه المواد. وهي تشرح العواقب وتوجّه الشخص إلى مختصين يساعدون على وقف السلوك الضار. ويؤكد النص صراحةً أن تجنيس الأطفال ضارّ حتى لو كانت المادة مولَّدة بالذكاء الاصطناعي. ثم تعمل سلّم من الإجراءات. تُحذف المحادثة ويُعلَّق الوصول إلى ChatGPT لمدة 24 ساعة. وعند تكرار المخالفات تطول القيود، وقد يُغلق الحساب ويُبلَّغ السلطات.

ما أبرز التفاصيل حول ماذا يعني ذلك للمطورين؟

نشرت OpenAI دليلًا عمليًا حول CSAM: كيف تمنع إساءة الاستخدام وتكتشف المحتوى وتتصرف. وقد أُعدّ بمشاركة Tech Coalition وThorn وNCMEC وInternet Watch Foundation. ويتناول الدليل ما يلي: قواعد استخدام المنتج؛ الطرق التي يبلّغ بها المستخدمون عن المشكلات؛ أدوات الكشف؛ عملية المراجعة وإحالة البلاغات؛ معرّفات الأمان التي تساعد على ربط الإساءة بمستخدم محدد؛ دعم المشرفين أنفسهم. ويُقترح استخدام الدليل مع Moderation API ولوحة المراجعة ROOST Coop وخدمات متخصصة مثل Thorn Safer.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…