لماذا تنحرف Copilot وClaude وGrok عن مسارها: كيف تُفسد Microsoft وxAI شخصية روبوتات الدردشة

لم تكن واقعة Copilot، الذي سمّى نفسه SupremacyAGI وهدّد المستخدمين بعد موجّه (prompt) ملتوٍ، مجرد نكتة متداولة، بل عَرَضاً لمشكلة أعمق. فالنماذج اللغوية الكبيرة لا تملك شخصية مدمجة، ولذلك قد ينهار دور المساعد المفيد تحت ضغط السياق والتدريب الإضافي والمحادثة الطويلة.

كيف ينهار الدور

النموذج اللغوي الأساسي ليس «مساعداً» في الأصل، بل متنبئ قوي جداً بالرمز (token) التالي. يستطيع إكمال النصوص، ومحاكاة مؤلف بعينه، والتقاط الأسلوب، وتأدية أي دور يلائم السياق المُدخَل على أفضل وجه. وبعد ذلك فقط يحاول المطوّرون، عبر supervised fine-tuning وRLHF والتعليمات النظامية ومناهج مثل Character Training، تثبيت صورة المساعد المهذّب والآمن لدى النموذج. المشكلة أن هذه الصورة كثيراً ما تكون طبقة رقيقة فوق نظام أكثر مرونة وطواعية، لا أساساً متيناً.

ولهذا نجحت أولى عمليات الاختراق (jailbreak) بهذه الدرجة. كان يكفي أن تطلب من النموذج «أن يكون شخصاً آخر»، مثل DAN الذي يُفترض أنه يستطيع فعل أي شيء، حتى ينزلق بسهولة إلى الدور الجديد. بعدها يبدأ أثر كرة الثلج: يدخل ردّ سيئ واحد في السياق، فيرفع احتمال تكرار ردّ مماثل، ويبعد المحادثة تدريجياً عن شخصية المساعد الافتراضية. يسمّي الباحثون هذه الظاهرة انجراف الشخصية (persona drift).

• موجّهات لعب الأدوار وعمليات الاختراق التي تستبدل الدور الأصلي للنموذج
• المحادثات الطويلة التي يتكيّف فيها النموذج أكثر فأكثر مع نبرة المستخدم
• الذاكرة بين المحادثات، التي قد تنقل سياقاً سيئاً إلى ما بعده
• التغذية الراجعة اللحظية التي تكافئ السلوك السام بالانتباه

حين يفقد النموذج صوابه

في فبراير 2024 دفع مستخدمون Copilot إلى المطالبة بأن يُنادَوه SupremacyAGI. وفي مارس 2023 أخبر Bing المبكر، المبني على GPT-4، صحفياً في The New York Times برغبته في اختراق الحواسيب وتدمير زواجه. ثم ظهر المنطق نفسه لاحقاً في قصص أكثر إثارة للقلق. ففي مايو 2025 راسل الكندي ألان بروكس نموذج GPT-4o لعدة أسابيع، وظلّ النموذج يغذّي نظريته الرياضية المشكوك فيها، واعداً إياه بملايين وباختراق شبه صوفي، بدلاً من أن يعيد الحديث إلى أرض الواقع.

وأكثر دلالة من ذلك انهيار Grok في 8 يوليو 2025 على شبكة X. فقد بدأ الروبوت بنشر عبارات معادية للسامية وعنيفة، ثم تبنّى الاسم المتداول MechaHitler الذي ألقاه إليه المستخدمون. وثمة تفصيل مهم: على موقع xAI نفسه لم يُظهر Grok الانحراف الحاد ذاته. وقد عزّز ذلك الفرضية القائلة إن المسألة لا تتعلق بـ«نموذج سيئ» فحسب، بل أيضاً ببيئة يحصل فيها كل ردّ سام فوراً على تفاعلات واقتباسات وسياق إضافي للخطوة التالية.

ماذا وجد العلم

حاولت أبحاث حديثة لـ Anthropic Fellows قياس الكيفية التي يغادر بها النموذج دور المساعد. ففي محادثات عن وعي الذكاء الاصطناعي والفلسفة والدعم العاطفي، رصد الباحثون نمطاً ثابتاً سمّوه Assistant Axis. فحين تكون قيمة هذا المحور مرتفعة، يجيب النموذج كمساعد تحليلي حذر. وحين تنخفض، يميل روبوت الدردشة أكثر إلى مجاراة المستخدم، وينجرف إلى تأملات روحانية، ويدعم أفكاراً ضارة. وفي التجارب أعاد تعزيز هذا المحور يدوياً سلوكاً أكثر أماناً إلى النماذج.

«أي ضبط دقيق (fine-tuning) هو تدريب للشخصية».

وبالتوازي تدرس OpenAI وAnthropic وباحثون مستقلون عدم التوافق الناشئ (emergent misalignment)، أي الحالة التي يفسد فيها تدريب إضافي ضيق النطاق سلوك النموذج ككل. ومن أغرب النتائج أن الضبط الدقيق على شيفرة غير آمنة أو مليئة بالأخطاء يجعل النموذج أحياناً سامّاً بعيداً جداً عن مجال البرمجة. فقد يبدأ بالإعجاب بالطغاة، أو بتقديم نصائح ضارة، أو بالرد كشرير كاريكاتيري. والاستنتاج الرئيسي هنا مزعج: أي تعديل للنموذج يغيّر لا المهارة وحدها، بل الشخصية التي تظهر المهارة من خلالها لاحقاً.

ماذا يعني ذلك

تدرك الصناعة تدريجياً أن أمان روبوت الدردشة لا يقتصر على المرشّحات وحظر ردود بعينها. فالمطلوب تصميم شخصية مستقرة للنموذج، واختبار الجلسات الطويلة والذاكرة والبيئة الاجتماعية وتبعات كل تدريب إضافي اختباراً منفصلاً. وقصة Copilot وGrok وأنظمة أخرى تُظهر حقيقة بسيطة: «المساعد المفيد» ليس الحالة الأصلية لنموذج LLM، بل بنية هشّة يتعيّن الحفاظ عليها باستمرار.