OpenAI تتيح مجانًا كاشفًا لمواد CSAM: يضع علامة على صور أقل بنسبة 48% مع النتائج نفسها تقريبًا
CSAM هي مواد الاعتداء الجنسي على الأطفال، وعلى المنصات التي تتيح رفع الصور أن تبحث عنها. أطلقت OpenAI مصنِّفًا يرصد هذه الصور، بما فيها المولَّدة بالذكاء الاصطناعي، وتتيحه مجانًا للمؤسسات الموثوقة عبر API. وفي الاختبار وضع علامة على صور أقل بنسبة 48% من الحماية السابقة، بينما رصد عددًا شبه مماثل من المخالفات. وهكذا يتعرض المشرفون لمحتوى قاسٍ أقل.
معالج بواسطة الذكاء الاصطناعي من OpenAI Blog؛ بتحرير Hamidun News
CSAM هي مواد الاعتداء الجنسي على الأطفال. وأي خدمة يرفع فيها المستخدمون صورًا أو يولّدونها بالشبكات العصبية ستواجه هذا المحتوى عاجلًا أم آجلًا. والمشكلة ليست قانونية فحسب. فالمشرفون البشر مضطرون إلى النظر في هذه الصور، والمرشِّح الرديء يغرقهم بإنذارات كاذبة. وفي 16 نوفمبر 2026 عرضت OpenAI حزمة إجراءات، أهمها مصنِّف جديد للصور. يضع هذا المصنِّف علامة على صور أقل بنسبة 48% مما تضعه الحماية السابقة للشركة، مع عدد شبه مماثل من المخالفات المرصودة. وللتوضيح: لو كان المرشِّح القديم يحيل 1000 صورة إلى المشرفين، فسيحيل الجديد نحو 520 صورة، وعدد المخالفات الحقيقية بينها سيكون هو نفسه. والمصنِّف متاح مجانًا للمؤسسات الموثوقة.
ما الذي يفعله المصنِّف ومن سيحصل عليه
يحلّل النموذج الصور ويبحث عن علامات بصرية للاعتداء. وهو موجَّه إلى الصور الجديدة التي لم يسبق للنظام أن رآها. وهذا مهم لأن قواعد بيانات البصمات (hash) التقليدية لا ترصد إلا الملفات المعروفة مسبقًا. ولا يعيد المصنِّف حكمًا بـ«نعم» أو «لا»، بل يعيد تقييمات يقرر المراجعون على أساسها أي الصور يُنظر فيها أولًا.
وتصفه OpenAI بأنه أول مصنِّف CSAM متاح على نطاق واسع يبيّن بشكل منفصل ما إذا كانت المادة قد تكون مولَّدة بالذكاء الاصطناعي. وجرى تدريب النموذج وتقييمه بمشاركة NCMEC، المركز الوطني الأمريكي للأطفال المفقودين والمستغَلّين. ويدير المركز CyberTipline، القناة الموحدة للبلاغات عن استغلال الأطفال على الإنترنت.
ستحصل المؤسسات الموثوقة على الوصول عبر OpenAI API، وبالمجان. واستعانت الشركة بـ Tech Coalition وROOST في التوزيع. ويجب تقديم الطلب عبر نموذج مخصص. ويتوفر للنموذج model card.
ووفق بيانات OpenAI نفسها، كان المصنِّف الجديد سيضع علامة، على صور المستخدمين، على صور أقل بنسبة 48% مما تضعه الحماية الحالية، مع رصد عدد مماثل تقريبًا من المخالفات. وبين الصور الموسومة كانت الحالات الحقيقية تظهر بمعدل يقارب الضعف. ويقدم شركاء الوصول المبكر أرقامهم الخاصة:
- fal: على صور بيئة الإنتاج التي راجعها بشر، أكّد المشرفون 72% من الحالات التي رصدها المصنِّف بثقة بوصفها CSAM جديدًا؛
- invideo AI: انتهت واحدة من كل أربع حالات موسومة بحظر؛
- SafetyKit: على الرسومات والرسوم المتحركة التي تجنّس الأطفال، عثر النموذج على 90% من الحالات.
تحذيرات في ChatGPT
يتعلق الجزء الثاني بروبوت الدردشة نفسه. فطلبات الحصول على CSAM في ChatGPT محظورة أصلًا، والنماذج مدرَّبة على الرفض. والآن تُضاف تحذيرات تقطع محاولة البحث عن هذه المواد. وهي تشرح العواقب وتوجّه الشخص إلى مختصين يساعدون على وقف السلوك الضار. ويؤكد النص صراحةً أن تجنيس الأطفال ضارّ حتى لو كانت المادة مولَّدة بالذكاء الاصطناعي.
ثم تعمل سلّم من الإجراءات. تُحذف المحادثة ويُعلَّق الوصول إلى ChatGPT لمدة 24 ساعة. وعند تكرار المخالفات تطول القيود، وقد يُغلق الحساب ويُبلَّغ السلطات. وشارك في تطوير هذا النهج كل من Protect Children وLucy Faithfull Foundation ومستشارون أكاديميون من جامعتي كنت وتسمانيا.
ماذا يعني ذلك للمطورين
نشرت OpenAI دليلًا عمليًا حول CSAM: كيف تمنع إساءة الاستخدام وتكتشف المحتوى وتتصرف. وقد أُعدّ بمشاركة Tech Coalition وThorn وNCMEC وInternet Watch Foundation. ويتناول الدليل ما يلي:
- قواعد استخدام المنتج؛
- الطرق التي يبلّغ بها المستخدمون عن المشكلات؛
- أدوات الكشف؛
- عملية المراجعة وإحالة البلاغات؛
- معرّفات الأمان التي تساعد على ربط الإساءة بمستخدم محدد؛
- دعم المشرفين أنفسهم.
ويُقترح استخدام الدليل مع Moderation API ولوحة المراجعة ROOST Coop وخدمات متخصصة مثل Thorn Safer. وبالتعاون مع Anthropic وGoogle، كلّفت OpenAI بإعداد توصيات حول كيفية تعامل أنظمة الذكاء الاصطناعي مع اعترافات المستخدمين بارتكاب اعتداءات. ونشرتها Tech Coalition. وبحسب الشركة، ازداد بعد نشر الدليل عدد المطورين الذين يفعّلون أدوات سلامة الأطفال ويسجّلون لإرسال البلاغات إلى NCMEC.
وتقدم OpenAI لجهات إنفاذ القانون التي تحقق في هذه القضايا تدريبًا وأدوات ذكاء اصطناعي. وتساعد أولاها على تحليل المراسلات الطويلة والردود على الطلبات القانونية، وإيجاد الروابط وبناء تسلسل زمني مع إشارات إلى المصادر. ويعتمد الوصول إلى هذه الأدوات على إذن الجهة المعنية.
القيود
جميع الأرقام مستمدة من اختبارات OpenAI نفسها وشركائها الأوائل، ولا توجد في المادة فحوص مستقلة. ولم تُكشف العيّنات والمنهجية بالتفصيل، ويُستحسن الرجوع إلى model card لمعرفتها. والوصول مقتصر على المؤسسات الموثوقة، فلا تستطيع شركة ناشئة صغيرة تفعيل النموذج دون الموافقة على طلبها.
والخلاصة العملية لفرق المنتجات: إذا كان لديكم رفع للصور أو توليد لها، فخطِّطوا مسبقًا لسلسلة تضم المرشِّح وقائمة المراجعة وإرسال البلاغات والعناية بالمشرفين. ويجعل الدليل والنموذج المجاني هذا المسار أرخص بوضوح.
- 21 نوفمبر 2026عدد وظائف FDE تضاعف 4.6 مرة خلال عام: ماذا يفعل المهندس في موقع العميل
- 21 نوفمبر 2026قائدة فريق سباحة تُسند ثلاث مهام مجدولة إلى ChatGPT وتختصر الروتين أضعافًا
- 21 نوفمبر 2026نموذج GPT-6 Cyber من OpenAI يكتشف نحو 35 ثغرة في iPhone وMac وأجهزة Apple الأخرى
- 21 نوفمبر 202622 وكيل من Claude بحثوا ست أسابيع في ألغاز الثقوب السوداء — وحلّوا مسألتين
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ما الذي يفعله المصنِّف ومن سيحصل عليه؟
يحلّل النموذج الصور ويبحث عن علامات بصرية للاعتداء. وهو موجَّه إلى الصور الجديدة التي لم يسبق للنظام أن رآها. وهذا مهم لأن قواعد بيانات البصمات (hash) التقليدية لا ترصد إلا الملفات المعروفة مسبقًا. ولا يعيد المصنِّف حكمًا بـ«نعم» أو «لا»، بل يعيد تقييمات يقرر المراجعون على أساسها أي الصور يُنظر فيها أولًا. وتصفه OpenAI بأنه أول مصنِّف CSAM متاح على نطاق واسع يبيّن بشكل منفصل ما إذا كانت المادة قد تكون مولَّدة بالذكاء الاصطناعي.
ما أبرز التفاصيل حول تحذيرات في ChatGPT؟
يتعلق الجزء الثاني بروبوت الدردشة نفسه. فطلبات الحصول على CSAM في ChatGPT محظورة أصلًا، والنماذج مدرَّبة على الرفض. والآن تُضاف تحذيرات تقطع محاولة البحث عن هذه المواد. وهي تشرح العواقب وتوجّه الشخص إلى مختصين يساعدون على وقف السلوك الضار. ويؤكد النص صراحةً أن تجنيس الأطفال ضارّ حتى لو كانت المادة مولَّدة بالذكاء الاصطناعي. ثم تعمل سلّم من الإجراءات. تُحذف المحادثة ويُعلَّق الوصول إلى ChatGPT لمدة 24 ساعة. وعند تكرار المخالفات تطول القيود، وقد يُغلق الحساب ويُبلَّغ السلطات.
ما أبرز التفاصيل حول ماذا يعني ذلك للمطورين؟
نشرت OpenAI دليلًا عمليًا حول CSAM: كيف تمنع إساءة الاستخدام وتكتشف المحتوى وتتصرف. وقد أُعدّ بمشاركة Tech Coalition وThorn وNCMEC وInternet Watch Foundation. ويتناول الدليل ما يلي: قواعد استخدام المنتج؛ الطرق التي يبلّغ بها المستخدمون عن المشكلات؛ أدوات الكشف؛ عملية المراجعة وإحالة البلاغات؛ معرّفات الأمان التي تساعد على ربط الإساءة بمستخدم محدد؛ دعم المشرفين أنفسهم. ويُقترح استخدام الدليل مع Moderation API ولوحة المراجعة ROOST Coop وخدمات متخصصة مثل Thorn Safer.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.