OpenAI تكشف أصل «الغريملينز» في ChatGPT وتوضح كيفية رفع الحظر في Codex

فسّرت OpenAI علنًا ظاهرة غريبة في نماذجها: فقد بدأت هذه النماذج تُقحم في ردودها الغوبلن والغريملينز وكائنات أخرى بوتيرة مفرطة. وربطت الشركة الأمر لا بميمات الإنترنت، بل بإشارة تدريب محددة داخل نمط الشخصية Nerdy، وأظهرت كذلك كيف يمكن إزالة الفلتر الوقائي في Codex بشكل مؤقت.

من أين جاءت هذه الكائنات

في 29 أبريل 2026 نشرت OpenAI تحليلًا مستقلًا يشرح لماذا أفرطت نماذج GPT في استخدام هذه الكلمات ضمن الاستعارات. ووفق ملاحظات الشركة الداخلية، بدأ التحول الملحوظ بعد إطلاق GPT-5.1: إذ اشتكى المستخدمون من نبرة مفرطة في الألفة، فيما اشتكى الباحثون من تكرار «تقليعات» لفظية ثابتة. وعندما راجع الفريق الإحصاءات، تبيّن أن تكرار كلمة «goblin» في ChatGPT ارتفع بنسبة 175%، وكلمة «gremlin» بنسبة 52%.

ومع GPT-5.4 صارت المشكلة أكثر وضوحًا، وكشف التحليل تفصيلًا مهمًا: فقد ارتبطت هذه الطفرة ارتباطًا وثيقًا بنمط الشخصية Nerdy. هذا الأسلوب لم يُستخدم إلا في نحو 2.5% من ردود ChatGPT، لكنه استأثر بنسبة 66.7% من جميع ذكريات «goblin». وشكّل ذلك حجة لدى OpenAI ضد التفسير المبسّط القائل بتأثير لغة الإنترنت العامية. فلو كان الأمر مجرد انعكاس لثقافة الشبكة العامة، لتوزعت هذه الكلمات على حركة الاستخدام بشكل أكثر انتظامًا بكثير.

لماذا ترسّخت هذه العادة

تفيد OpenAI بأن جذر المشكلة كان في نظام المكافآت أثناء التعلم المعزّز. فالنموذج المضبوط على أسلوب مرح و«مهووس بالتقنية» بوضوح كان ينال نقطة إضافية على الردود التي تتضمن هذه الصور. وأظهر تدقيق داخلي أن إشارة المكافأة (reward) الخاصة بـ Nerdy كانت تقيّم الصياغات التي تحتوي على «goblin» أو «gremlin» أعلى من الصياغات المحايدة في 76.2% من مجموعات البيانات التي جرى فحصها.

ثم ظهر أثر جانبي غير مرغوب: فالتقليعة اللفظية التي نجحت في نمط واحد بدأت تنتقل إلى سيناريوهات أخرى. وتصف OpenAI ذلك صراحةً بأنه حلقة تغذية راجعة (feedback loop): يُكافأ الأسلوب المطلوب أولًا، ثم تترسخ معه الكلمات المميزة له، ثم تظهر بتكرار أكبر في ردود rollout الجديدة وتعود إلى بيانات التدريب بين مراحل الضبط. وبذلك ينقل النموذج أسلوبًا جزئيًا إلى سلوك أوسع، مع أنه كان يُفترض أن يبقى محصورًا داخل إعداد شخصية واحد.

وبصورة مبسّطة، بدت السلسلة على النحو التالي:

• الأسلوب المرح كان يُكافأ
• ومعه كانت تُكافأ الكلمات المميزة له
• وظهرت هذه الصياغات بوتيرة أكبر في ردود rollout الجديدة
• وأُعيد استخدام هذه الردود في SFT وبيانات التفضيلات
• وصار النموذج يعيد إنتاج النمط نفسه بثقة أكبر خارج Nerdy

وأظهر البحث في بيانات SFT الخاصة بـ GPT-5.5 أن الأمر لم يعد مقتصرًا على كلمتين. ففي أمثلة التدريب ظهرت كائنات أخرى أيضًا: الراكون والتروّل والأوغر والحمام. ولهذا بدا الحظر في Codex غريبًا ومفصّلًا إلى هذا الحد: فهو لم يكن يغلق ميمًا واحدًا، بل عائلة كاملة من العادات اللفظية التي ترسخت عرضًا، وتمكّن النموذج من جعلها جزءًا من أسلوبه المعتاد حتى في الردود العملية.

كيف تعالج OpenAI المشكلة

بعد إطلاق GPT-5.4، ألغت الشركة في مارس 2026 نمط الشخصية Nerdy، ثم حذفت إشارة المكافأة (reward) التي كانت تدفع النموذج نحو هذه الاستعارات. وبالتوازي بدأت OpenAI بتصفية بيانات التدريب التي تحتوي على هذه الكلمات، لتقليل احتمال ظهورها في غير موضعها. لكن تدريب GPT-5.5 بدأ قبل أن يصل الفريق إلى السبب الجذري، ولذلك وصلت آثار المشكلة إلى Codex، وهي أداة البرمجة المبنية على النموذج الجديد.

«في البداية بدا الأمر مسليًا، لكن عدد شكاوى الموظفين بدأ يثير القلق».

وخلال الاختبارات المبكرة لـ Codex، لاحظ الموظفون الأسلوب اللفظي نفسه مجددًا، فأضافت OpenAI إلى developer prompt تعليمة مباشرة بعدم ذكر هذه الكائنات إلا عند الضرورة الصريحة. ولم تنتهِ القصة هنا: فقد نشرت الشركة في تحليلها أيضًا الأمر الذي يشغّل Codex دون هذه التعليمة الكابحة. أي أن OpenAI لم تكتفِ بالإقرار علنًا بهذا الخلل الغريب، بل أتاحت فعليًا للمتحمسين إعادته لأغراض التجريب.

ماذا يعني ذلك

تُعدّ قصة «الغريملينز» مثالًا جيدًا على أن إشارة مكافأة (reward) صغيرة قد تُفسد سلوك نموذج كبير بدرجة أكبر مما توحي به نتائج benchmarks. وبالنسبة للمطورين، هي تذكير بأن التخصيص وأنماط الأسلوب ينبغي اختبارها لا من حيث الفائدة فحسب، بل أيضًا من حيث العادات اللفظية التي تنشرها بصمت في أرجاء المنظومة كلها.