وسّعت OpenAI وسائل الحماية في ChatGPT بميزة تنبيه جهة اتصال

تعمل OpenAI على توسيع جهودها لحماية مستخدمي ChatGPT في الحالات التي قد تنطوي على خطر إيذاء النفس. قدمت الشركة ميزة جديدة تسمى Trusted Contact تتيح إخطار شخص موثوق به تلقائياً بشأن تهديد محتمل.

كيفية عمل Trusted Contact

تتيح الميزة للمستخدمين تحديد جهة اتصال مسبقاً — شخص يجب إخطاره إذا تم اكتشاف علامات خطر إيذاء النفس في محادثة ChatGPT. إذا حددت النظام أن المستخدم يناقش احتمالية إيذاء النفس أو أفكاراً انتحارية، فسيرسل لجهة الاتصال الموثوقة إخطاراً يحتوي على معلومات حول الخطر المحتمل. تستخدم الآلية نماذج OpenAI لتحليل النص في الوقت الفعلي. يحتوي الإخطار على معلومات عن الخطر، لكن دون السياق الكامل للمحادثة — لحماية خصوصية المستخدم. ستتلقى جهة الاتصال الموثوقة تنبيهاً موجهاً وروابط إلى موارد الدعم. الميزة اختيارية تماماً: يجب على المستخدم تفعيلها بنفسه واختيار من يثق به بالإخطارات. هذا يعني أن النظام لن يرسل تنبيهات دون موافقة صريحة.

لماذا هذا مهم للمنصات

الصحة النفسية للمستخدمين هي مصدر قلق متنام للشركات التي تنشئ أنظمة الذكاء الاصطناعي. تظهر الأبحاث أن الأشخاص في حالات أزمة يلجأون في كثير من الأحيان إلى ChatGPT بأسئلة لا يستعدون لمناقشتها مع الأصدقاء أو الوالدين أو الأطباء. توفر الخصوصية وعدم الحكم على المساعد الذكي جاذبية لمثل هذه المحادثات. تسعى OpenAI إلى إيجاد توازن بين سهولة الوصول للخدمة والمسؤولية تجاه المستخدمين الضعفاء. Trusted Contact ليست الآلية الأولى من نوعها. تقدم الشركة بالفعل تكاملاً مع خطوط مساعدة الصحة النفسية ورسائل تحذير في حالات حرجة ومعلومات حول موارد الدعم. يتوافق النهج مع الاتجاهات العالمية. تقوم منصات كبرى أخرى (Meta و TikTok و Discord) أيضاً بتطوير أدوات لتحديد المخاطر وإخطار الأحباء. أصبح هذا ممارسة معيارية في الصناعة.

أين يندرج هذا في استراتيجية OpenAI

تستثمر OpenAI في عدة اتجاهات لحماية المستخدمين:

• الكشف التلقائي عن الحالات الحرجة في المحادثات من خلال نماذج التعلم الآلي
• روابط مدمجة إلى خطوط الاستغاثة والمستشارين ومجتمعات الدعم
• المواد التعليمية حول الصحة النفسية والموارد المتاحة
• إخطارات وتوصيات لآباء المستخدمين القصّر
• شراكات مع منظمات الدعم (NAMI و SAMHSA و Crisis Text Line)

تم تصميم Trusted Contact خصيصاً للمستخدمين الذين يعترفون بالخطر ويريدون شبكة أمان — بحيث يتعلم شخص موثوق به عن المشكلة في مرحلة مبكرة ويمكنه تقديم الدعم.

ماذا يعني هذا

يوضح Trusted Contact المسؤولية المتزايدة لشركات الذكاء الاصطناعي تجاه سلامة المستخدمين. الآلية لا تحل محل المساعدة المهنية، لكن يمكنها توفير الوقت في لحظة حرجة — عندما يتعلم شخص موثوق به عن المشكلة ويمكنه التدخل. بالنسبة لعشرات الملايين من مستخدمي ChatGPT، فإن هذا يضيف طبقة حماية واحدة إلى نظام البيئة للمنصة.