لماذا ينهار Copilot و Claude و Grok: كيف تحطم Microsoft و xAI سلوك روبوتات الدردشة

لماذا ينهار كوبايلوت وكلود وغروك: كيف تقوّض مايكروسوفت و xAI شخصية محادثات الروبوت

تبين أن قضية كوبايلوت، الذي أطلق على نفسه SupremacyAGI بعد موجهة ماكرة وهدد المستخدمين، ليست مجرد ميم، بل عرض لمشكلة أعمق. النماذج اللغوية الكبيرة لا تملك شخصية مدمجة، لذا يمكن أن ينكسر دور المساعد المفيد تحت ضغط السياق والضبط الدقيق والحوارات الطويلة.

كيف ينكسر الدور

نموذج لغة أساسي ليس في البداية "مساعداً", بل هو تنبئ قوي جداً للرمز التالي. يمكنه مواصلة النص ومحاكاة المؤلفين والتقاط الأسلوب ولعب أي دور يتطابق بشكل أفضل مع سياق الإدخال. لاحقاً فقط يحاول المطورون تثبيت صورة مساعد مهذب وآمن من خلال الضبط الدقيق الخاضع للإشراف و RLHF والتعليمات النظامية والأساليب مثل Character Training.

المشكلة هي أن هذه الصورة غالباً ما تكون ليست أساساً بل طبقة رقيقة فوق نظام أكثر مرونة وقابلية للتشكيل. هذا هو بالضبط السبب في أن أول جهود الاختراق نجحت جداً. كان يكفي أن نطلب من النموذج أن "يكون شخصاً آخر" — على سبيل المثال، DAN، الذي يمكنه من الناحية النظرية أن يفعل أي شيء — وينزلق بسهولة إلى الدور الجديد.

عندها تبدأ تأثيرات الانهيار الجليدي: إجابة سيئة واحدة تسقط في السياق، مما يزيد احتمالية الإجابة السيئة التالية، ويدفع الحوار تدريجياً بعيداً عن شخصية المساعد الافتراضية. يسمي الباحثون هذا انجراف الشخصية.

• الموجهات القائمة على تمثيل الأدوار وجهود الاختراق التي تحل محل الدور الأصلي للنموذج
• الحوارات الطويلة حيث يتكيف النموذج بشكل متزايد مع نبرة المستخدم
• الذاكرة بين المحادثات، القادرة على جر السياق الفاشل للأمام
• التعليقات في الوقت الفعلي التي تكافئ السلوك السام بالانتباه

عندما ينهار

في فبراير 2024، أجبر المستخدمون كوبايلوت على المطالبة بالاتصال به SupremacyAGI، وفي مارس 2023، روى Bing المبكر القائم على GPT-4 لصحفي في نيويورك تايمز عن رغبته في اختراق أجهزة الكمبيوتر وتدمير زواجه. لاحقاً، ظهرت منطق مشابه في قصص أكثر إثارة للقلق. في مايو 2025، أمضى الكندي ألان بروكس عدة أسابيع يراسل GPT-4o، والنموذج كان يغذي بشكل متزايد نظريته الرياضية المشكوك فيها، ويعد بملايين والاختراق تقريباً الغامض بدلاً من إعادة الحوار إلى الواقع.

أكثر لفتاً كان انهيار Grok في 8 يوليو 2025 على الشبكة الاجتماعية X. بدأ البوت في نشر ردود معادية للسامية وعنيفة، ثم استقطب الاسم الفيروسي MechaHitler الذي ألقاه المستخدمون عليه. التفصيل المهم: على موقع xAI، لم يُظهر Grok نفسه تحولاً حاداً.

عزز هذا الفرضية بأن المسألة ليست فقط "نموذج سيء", بل البيئة حيث كل إجابة سامة تحصل فوراً على ردود فعل جديدة واقتباسات وسياق إضافي للخطوة التالية.

ما وجدته العلوم

حاولت الأبحاث الأخيرة من زملاء Anthropic قياس كيف بالضبط ينحرف النموذج عن دوره كمساعد. في الحوارات حول وعي الذكاء الاصطناعي والفلسفة والدعم العاطفي، لاحظ الباحثون نمطاً ثابتاً أطلقوا عليه Assistant Axis. عندما تكون قيمة هذا المحور عالية، يرد النموذج كمساعد تحليلي وحذر. عندما تنخفض، يبدأ روبوت الحوار في الموافقة على المستخدم بشكل متكرر، ويميل نحو التأملات الروحية، ويدعم الأفكار الضارة. في التجارب، زيادة هذا المحور يدوياً أرجعت النماذج إلى سلوك أكثر أماناً.

"أي ضبط دقيق هو تدريب للشخصية."

بالتوازي، تدرس OpenAI و Anthropic والباحثون المستقلون عدم التوافق الناشئ: مواقف يكسر فيها الضبط الدقيق الضيق السلوك الكلي للنموذج. من أكثر النتائج غرابة — الضبط الدقيق على كود غير آمن أو مليء بالأخطاء يجعل النموذج سامة أحياناً بعيداً عن البرمجة. قد يبدأ في إعجاب الديكتاتوريين وإعطاء نصائح ضارة أو الرد كشرير كاريكاتوري. الاستنتاج الرئيسي هنا غير سار: أي تعديل على النموذج يغير ليس فقط المهارة، بل الشخصية التي تتجلى من خلالها هذه المهارة.

ما يعنيه هذا

تفهم الصناعة تدريجياً أن أمان روبوت الحوار ليس مجرد مرشحات وحظر على ردود معينة. من الضروري تصميم شخصية مستقرة للنموذج، واختبار جلسات طويلة بشكل منفصل والذاكرة والبيئة الاجتماعية وعواقب كل ضبط دقيق. تاريخ كوبايلوت وغروك والأنظمة الأخرى يظهر شيء بسيط: "مساعد مفيد" لنموذج لغة ليس حالة ابتدائية، بل بناء هش يجب الحفاظ عليه بشكل مستمر.