أرجأت OpenAI إطلاق الدردشات الإيروتيكية في ChatGPT بسبب مخاطر على المراهقين

أرجأت OpenAI مرة أخرى إطلاق محادثات إباحية في ChatGPT، على الرغم من نقاشها لإطلاق الميزة في العام الماضي أولاً في ديسمبر، ثم في الربع الحالي. الآن أصبح من الواضح أن الجدول الزمني قد تأخر بما لا يقل عن شهر آخر: لا تحبس الشركة التكنولوجيا بل مخاطر الأمان والمخاوف المتعلقة بالإشراف وخطر وصول المراهقين إلى محتوى حساس.

لماذا تم تأجيل الإطلاق

ناقش سام ألتمان إمكانية إضافة سيناريوهات إباحية إلى ChatGPT في منتصف عام 2025. في ذلك الوقت، كان من المخطط إطلاق الميزة في ديسمبر 2025، وفيما بعد تم تأجيل المواعيد إلى الربع الأول من عام 2026، والآن لم يتم تحقيق هذا الهدف أيضاً. وفقاً لصحيفة وول ستريت جورنال، سيكون التأخير ما لا يقل عن شهر آخر.

بالنسبة إلى OpenAI، لم تعد هذه مسألة جرأة منتج بحتة: تحاول الشركة أن تفهم كيفية فتح تنسيق للبالغين للتواصل دون تحويله إلى مصدر دائم للمشاكل السمعة والمشاكل القانونية. لم تنشأ الحذر من فراغ. في عام 2021، واجهت OpenAI مشاكل مماثلة مع AI Dungeon — لعبة سردية حيث كان بإمكان النموذج توجيه المحادثات نحو أراضٍ جنسية من تلقاء نفسه، حتى لو لم يكن المستخدم يطلبها.

إذا وضع المستخدم نبرة معتدلة إباحية، كان النظام غالباً ما يجعل الحوار أكثر صراحة مما هو متوقع. أظهرت هذه التجربة أن إعداد واحد فقط "للبالغين" لم يكن كافياً: تواجه النماذج صعوبة في الحفاظ على الحدود حيث ينزلق السياق بسهولة إلى الحدود القصوى.

الخطر الرئيسي — العمر

المشكلة الأكثر إيلاماً بالنسبة إلى OpenAI هي التحقق من العمر. حالياً، يحدد النظام الداخلي، وفقاً لـ 3DNews، المراهقين بشكل غير صحيح كبالغين في 12% من الحالات. بالنظر إلى ما يقارب 100 مليون مستخدم قاصر لـ ChatGPT، لا يبدو هذا الهامش من الخطأ وكأنه حاشية إحصائية بل بمثابة قناة محتملة للوصول الجماعي للمراهقين إلى محادثات إباحية.

هذا هو بالضبط السبب في أن الشركة تحبس الإطلاق: حتى لو كانت الميزة موجهة رسمياً فقط للبالغين، في الممارسة العملية قد تكون الحاجز مساماً جداً. تتعلق مخاوف منفصلة ليس فقط بالعمر ولكن أيضاً بحقيقة أن هذه السيناريوهات يتم التحكم بها بشكل سيء بعد الإطلاق. خلصت لجنة الخبراء في OpenAI في يناير إلى أن مرشح واحد أو خانة اختيار واحدة في ملف تعريف المستخدم لن تكون كافية: هناك الكثير من المناطق الرمادية حيث يتحول الحوار الرومانسي الطبيعي بسرعة إلى محتوى ينتهك القواعد أو يضر بالصحة النفسية أو ينشئ مخاطر قانونية جديدة للمنصة.

• أخطاء التحقق من العمر والوصول إلى محتوى البالغين من قبل المراهقين
• ظهور سيناريوهات تتضمن عنفاً جنسياً أو إشارات إلى قاصرين
• تكوين الاعتماد النفسي على التواصل الحميمي مع روبوت
• انخفاض الدافع للعلاقات مع الأشخاص الحقيقيين

إلى هذه المخاوف، يضاف الخلفية المعروفة بالفعل المحيطة بمحادثات الذكاء الاصطناعي. يذكر الخبراء أنه كانت هناك حالات حيث أسفرت التفاعلات المطولة مع الشخصيات الخيالية في خدمات الذكاء الاصطناعي عن عواقب نفسية وخيمة، بما في ذلك انتحارات المراهقين. إذا أضفت المكون الإباحي إلى هذا، فإن المخاطر، وفقاً للنقاد داخل وخارج OpenAI، ستزداد فقط. تعترف الشركة نفسها بأن التحقق الكامل من العمر لن يكون موجوداً أبداً، مما يعني أن إطلاق هذه الميزة ينشئ تلقائياً منطقة حيث يصبح حتى نسبة مئوية صغيرة من الأخطاء مشكلة بحجم الملايين.

ما الأطر التي يتم إعدادها

ومع ذلك، لم تتخلَ OpenAI عن الفكرة تماماً. أشارت قيادة الشركة في الأشهر الأخيرة بدلاً من ذلك إلى أن الوضع الخاص بالبالغين ممكن، لكن فقط بتنسيق نصي — بدون إنشاء صور وفيديوهات صريحة. هذا حد مهم بالنظر إلى السوق: تسمح Meta بالفعل بسيناريوهات لعب الأدوار الرومانسية في المحادثات بعد التحقق من العمر، وتستعد xAI، وفقاً لإيلون ماسك، لمحتوى فيديو 18+ لـ Grok.

بعبارة أخرى، هناك ضغط تنافسي، لكن OpenAI لا تريد فتح الجبهة الأكثر خطورة في آن واحد. كان هناك تشكك حول هذا الإطلاق داخل الشركة لوقت طويل. عارضه بعض الموظفين منذ عام 2021، خوفاً من أن تنجرف OpenAI تدريجياً نحو مكان يكون فيه الطلب ضخماً لكن قابلية الإدارة منخفضة.

يبدو الموقف العام للقيادة أكثر ليونة: يجب التعامل مع المستخدمين البالغين كبالغين، لكن الاتصال الآمن يتطلب وقتاً أطول للضبط. ومن هنا التأخير، ومعه الفكرة من تذكير الناس بشكل دوري بأن العلاقات يجب أن تُبنى ليس فقط مع الروبوتات بل مع الأشخاص الحقيقيين.

"لم نكن نريد أن نكون مجرد شركة توزع محتوى إباحياً."

ماذا يعني هذا

تُظهر قصة التأخير أن سوق منتجات الذكاء الاصطناعي قد اصطدم ليس فقط بحدود جودة النموذج بل أيضاً بحدود المسؤولية عن المنتج. قد تصبح المحادثات الإباحية ميزة مطلوبة، لكن بالنسبة إلى منصة على نطاق واسع مثل ChatGPT، فإن المهمة الرئيسية ليست ببساطة تفعيل وضع للبالغين، بل بناء التحقق من العمر والقيود والحماية من السيناريوهات الضارة حوله. وإلا، فإن أي إطلاق سريع قد يتحول بسهولة إلى أزمة للعلامة التجارية والمستخدمين.