أطلقت OpenAI أدوات مفتوحة المصدر لحماية المراهقين في تطبيقات AI

فتحت OpenAI أمام المطورين مجموعة من أدوات مفتوحة المصدر والسياسات الجاهزة، موجهة نحو حماية القاصرين في تطبيقات الذكاء الاصطناعي. تقترح الشركة استخدام هذه التطورات كأساس بدلاً من أن تحل كل فريق المشكلة من الصفر. جوهر المبادرة بسيط: بناء حماية موثوقة للمراهقين مهمة غير بديهية.

يجب مراعاة السياق المناسب للعمر، وتقييد مواضيع معينة، وتصفية المحتوى غير المرغوب، وفي الوقت ذاته تجنب تحويل المنتج إلى مجموعة من الحظر غير المريح للاستخدام العادي. سابقاً، كانت كل شركة ناشئة أو فريق منتج يطور قواعده الخاصة، مما يستنزف الموارد وغالباً ما يؤدي إلى أخطاء منهجية. قررت OpenAI تغيير النهج: بدلاً من الحلول الداخلية المغلقة — قاعدة بيانات مفتوحة متاحة لأي مطور.

تتضمن المجموعة سياسات الاستخدام المكيفة للمستخدمين القاصرين، بالإضافة إلى أدوات تقنية تساعد على دمج هذه القواعد في منتج نهائي. لا يحتاج المطور إلى تحديد بنفسه ما هو مسموح به وما ليس كذلك — يعتمد على نظام مختبر من شركة سلكت هذا الطريق بالفعل على منتجاتها الخاصة. السياق مهم: يتزايد الضغط على شركات الذكاء الاصطناعي فيما يتعلق بحماية الأطفال في جميع أنحاء العالم.

في الولايات المتحدة، تناقش مبادرات تشريعية من شأنها إلزام المنصات باتخاذ تدابير إضافية للمستخدمين دون سن 18 سنة. في أوروبا، ينطبق المنظمون بشكل متزايد قيوداً على الخدمات الرقمية على أساس العمر. بالنسبة لـ OpenAI، التي تستخدم منتجاتها — ChatGPT بشكل خاص — ملايين الطلاب والطالبات، فهذا ليس مشكلة مجردة بل واقع تشغيلي.

تعني الطبيعة المفتوحة للأدوات أن الفرق الصغيرة والمطورين المستقلين يحصلون على الوصول إلى نفس القاعدة مثل اللاعبين الكبار. هذا يقلل من حاجز الدخول لمن يريد بناء منتجات آمنة لكن ليس لديه موارد للخبرة العميقة في سلامة الأطفال. من المهم أن نفهم: هذا ليس حلاً سحرياً.

السياسات الجاهزة تضع الإطار، لكن كل منتج محدد لا يزال يتطلب تخصيصاً منفصلاً — كل جمهور مختلف، وسياق الاستخدام أيضاً. ومع ذلك، فإن وجود أساس مفتوح خطوة مهمة للأمام مقارنة بوقت كانت فيه كل شركة تبني الحماية على الحدس والخبرة من أخطائها الخاصة. بالنسبة للسوق، هذه الإشارة واضحة: تتوقف مسؤولية حماية القاصرين في منتجات الذكاء الاصطناعي عن كونها حصرياً شأناً داخلياً لكل شركة.

تقترح OpenAI بشكل فعال معيار صناعي — وبالتالي تشكل التوقعات لمن لن يستخدمه.