OpenAI تطلق سياسات حماية المراهقين القائمة على المطالبات للمطورين المستخدمين لنموذج gpt-oss-safeguard

نشرت OpenAI مجموعة جاهزة من سياسات السلامة المبنية على المطالبات (prompts)، مخصصة لحماية المراهقين في التطبيقات التي تعتمد على نموذج gpt-oss-safeguard. وتتيح هذه الأداة للمطورين إضافة إدارة محتوى مراعية للعمر دون الحاجة إلى كتابة مرشحات معقدة من الصفر.

يُعد المراهقون من أكثر الفئات نشاطًا في استخدام تطبيقات الذكاء الاصطناعي. فروبوتات الدردشة والمعلمون الافتراضيون ورفاق الألعاب وأدوات الدراسة يستخدمها الأطفال والشباب من عمر 13 إلى 17 عامًا. ومع ذلك، تُضبط معظم النماذج اللغوية افتراضيًا على مستخدم بالغ، فهي لا تميّز بين سؤال أخصائي في الثلاثين من عمره وسؤال تلميذ في الرابعة عشرة. وقد أصبحت الفجوة بين القدرات التقنية للنموذج وجمهوره الفعلي مشكلة قائمة منذ فترة لدى مطوري المنتجات واسعة الانتشار.

وتوجّه الجهات التنظيمية حول العالم اهتمامها إلى هذه المسألة. ففي الاتحاد الأوروبي، يشترط قانون الذكاء الاصطناعي حماية خاصة للفئات المستخدمة الضعيفة، ومنها القاصرون. وفي الولايات المتحدة، لا تزال النقاشات مستمرة حول قواعد استخدام التلاميذ للذكاء الاصطناعي. وتواجه الشركات التي تطوّر منتجات للجمهور العام مطالبة متزايدة بإثبات أن أنظمتها لا يمكن أن تُلحق الضرر بالطفل، وهي مطالبة لم تعد أخلاقية فحسب، بل قانونية أيضًا.

أما gpt-oss-safeguard فهو نموذج حارس مفتوح من OpenAI، مخصص لفحص الرسائل الواردة والصادرة في أنظمة الدردشة. ويحلّل المحتوى بحثًا عن انتهاكات السياسة، ويمكنه حظر الطلبات الإشكالية أو وسمها قبل وصولها إلى النموذج الرئيسي أو إلى المستخدم.

وقد صيغت سياسات المراهقين الجديدة في شكل مطالبات، أي تعليمات نصية يمررها المطوّر إلى النموذج مع الطلب. وهذا يتيح إضافة طبقة ترشيح إضافية خاصة بالفئة العمرية دون تغيير الشيفرة البرمجية.

وتغطي السياسات المخاطر الملائمة للمراهقين تحديدًا: موضوعات إيذاء النفس، والتنمر الإلكتروني، والمحتوى الجنسي المثير للجدل، فضلًا عن المواقف التي قد يؤدي فيها الذكاء الاصطناعي دور البالغ صاحب السلطة دون قصد، فيمارس تأثيرًا مفرطًا على تفكير لم يكتمل تشكّله بعد.

يُدرج المطوّر السياسة في مطالبة النظام (system prompt) الخاصة بتطبيقه. ويفحص النموذج الحارس كل تفاعل، سواء الطلبات الواردة من المستخدم أو ردود النظام، وفق معايير مكيّفة للفئة العمرية. وإذا لم يجتز المحتوى المرشح، يستطيع النظام رفض الرد أو إعادة صياغته أو إحالة الحالة إلى مراجعة بشرية.

وتكمن الميزة الأساسية لهذا النهج في المرونة: فالمطوّر لا يحصل على صندوق أسود بقواعد صارمة، بل يعمل مع سياسات قابلة للتخصيص. وهذا مهم جدًا لأن سياق سلامة المراهقين يتباين كثيرًا، إذ تتطلب منصة تعليمية للتلاميذ ورفيق دردشة في الألعاب وتطبيق للصحة النفسية للشباب مقاربات مختلفة في إدارة المحتوى.

وتطرح OpenAI هذه الأدوات للاستخدام المفتوح، وهذا جزء من استراتيجية أوسع للشركة. فبنشر حلول جاهزة لإدارة المحتوى، تخفّض OpenAI حاجز الدخول أمام الفرق الصغيرة التي لا تملك الموارد لتطوير أنظمة سلامة خاصة بها. وفي الوقت نفسه، يسهم ذلك في تشكيل معايير القطاع: فإذا اعتمد عدد كافٍ من المطورين هذه السياسات، فسينشأ معيار واقعي (de facto) لحماية المراهقين في تطبيقات الذكاء الاصطناعي، وكذلك وسيلة لإظهار نهج مسؤول في التطوير أمام الجهات التنظيمية والرأي العام.

وتنتقل قضايا السلامة العمرية من دائرة النقاش الأخلاقي إلى دائرة الأدوات العملية. فالمطورون الذين يبنون منتجات للشباب باتوا قادرين على الاستناد إلى حلول جاهزة من لاعب رائد في السوق، بدلًا من ابتكار مرشحاتهم الخاصة أو تجاهل المشكلة. وبالنسبة إلى القطاع، هذه خطوة في الاتجاه الصحيح.