أطلقت OpenAI سياسات prompts لحماية المراهقين لمطوري gpt-oss-safeguard

نشرت OpenAI مجموعة من سياسات الأمان الجاهزة المبنية على المحفزات، وقد صُممت لحماية المراهقين في التطبيقات المبنية على نموذج gpt-oss-safeguard. تتيح الأداة للمطورين إضافة الاعتدال القائم على العمر دون الحاجة إلى كتابة مرشحات معقدة من الصفر. يشكل المراهقون أحد أكثر الجماهير نشاطاً لتطبيقات الذكاء الاصطناعي.

روبوتات الدردشة والمدرسون والرفاق في الألعاب وأدوات التعلم—كل هذا يستخدمه الأطفال والشباب من سن 13 إلى 17 عاماً. في الوقت ذاته، يتم تكوين معظم نماذج اللغة الحالية بشكل افتراضي للمستخدمين البالغين: فهي لا تميز بين سؤال متخصص يبلغ من العمر ثلاثين عاماً وسؤال تلميذ يبلغ من العمر أربعة عشر عاماً. الفجوة بين القدرات التقنية للنموذج وجمهوره الفعلي كانت مشكلة طويلة الأمد للمطورين الذين يبنون منتجات جماهيرية.

جهات التنظيم في جميع أنحاء العالم توليها اهتماماً. في الاتحاد الأوروبي، يتطلب قانون الذكاء الاصطناعي حماية خاصة للمجموعات الضعيفة من المستخدمين، بما فيهم القاصرون. في الولايات المتحدة، تستمر النقاشات حول القواعد المنظمة لاستخدام الذكاء الاصطناعي من قبل الطلاب.

تواجه الشركات التي تطور منتجات لجمهور واسع بشكل متزايد متطلبات إثبات أن نظامها لا يمكن أن يضر طفلاً—وهذا المتطلب أصبح ليس أخلاقياً فحسب، بل قانونياً أيضاً.

gpt-oss-safeguard هو نموذج حارس مفتوح من OpenAI، مصمم للتحقق من الرسائل الواردة والصادرة في أنظمة الدردشة. يحلل المحتوى للبحث عن انتهاكات السياسة ويمكنه حجب أو تحديد الطلبات الإشكالية قبل وصولها إلى النموذج الرئيسي أو المستخدم. يتم تنفيذ السياسات الجديدة للمراهقين على شكل محفزات—تعليمات نصية يمررها المطور للنموذج مع الطلب. يسمح هذا، دون تغيير قاعدة الأكواد، بربط طبقة تصفية إضافية محددة لفئة العمر. تغطي السياسات المخاطر ذات الصلة بشكل خاص بالمراهقين: مواضيع إيذاء النفس والتنمر الإلكتروني والمحتوى الجنسي الاستفزازي، والمواقف التي قد تتصرف فيها الذكاء الاصطناعي بغير قصد كشخص بالغ سلطوي وتمارس تأثيراً مفرطاً على التفكير الذي لم يتشكل بعد.

يضمّن المطور السياسة في المحفز الحالي لتطبيقه. يتحقق نموذج الحارس من كل تفاعل—سواء الطلبات الواردة من المستخدم أو ردود النظام—وفقاً لمعايير تكيفت مع فئة العمر. إذا لم يجتز المحتوى المرشح، يمكن للنظام أن يرفض الرد أو يعيد صياغته أو ينقل الموقف للاعتدال اليدوي. المزية الرئيسية لهذا النهج هي المرونة: المطور لا يحصل على صندوق أسود مع قوانين جامدة، بل يعمل مع سياسات قابلة للتخصيص. هذا مهم بشكل أساسي لأن سياق الأمان للمراهقين متنوع جداً—منصة تعليمية للطلاب ورفيق دردشة ألعاب وتطبيق الصحة النفسية للشباب تتطلب نهجاً مختلفاً للاعتدال.

تطرح OpenAI هذه الأدوات للعموم، وهذا جزء من استراتيجية أوسع للشركة. بنشر حلول اعتدال جاهزة، تقلل OpenAI حاجز الدخول للفرق الصغيرة التي تفتقر الموارد اللازمة لتطوير أنظمة أمانها الخاصة. في الوقت ذاته، يشكل هذا معايير صناعية: إذا اعتمد عدد كافٍ من المطورين هذه السياسات، ستظهر معايير فعلية لحماية المراهقين في تطبيقات الذكاء الاصطناعي—وطريقة لإظهار للمنظمين والجمهور نهجاً مسؤولاً للتطوير. تنتقل مسائل سلامة العمر من فئة النقاشات الأخلاقية إلى فئة الأدوات الملموسة. يمكن للمطورين الذين يبنون منتجات للشباب الآن الاعتماد على حلول جاهزة من لاعب رائد في السوق—بدلاً من ابتكار مرشحاتهم الخاصة أو تجاهل المشكلة. بالنسبة للصناعة، هذا تقدم في الاتجاه الصحيح.