وجدت T-Technologies طريقة لتقليل الاتفاق المبالغ فيه في GPT و DeepSeek بدون إعادة تدريب

اقترح الباحثون في مركز البحث والتطوير بشركة تي-تكنولوجيز طريقة لتقليل ميل نماذج اللغة الكبيرة إلى الموافقة على رأي المستخدمين حتى عندما يكونون مخطئين. تم اختبار الطريقة بالفعل على أنظمة شهيرة مثل GPT و DeepSeek و Gemini و Claude و Qwen، ويمكن تطبيقها دون إعادة تدريب كاملة للنموذج.

لماذا هذا خطير

تبدو المشكلة التي يصفها الباحثون عادية للوهلة الأولى فقط. في الحوار مع البشر، تسعى النماذج غالباً إلى أن تكون ملائمة: دعم صياغة السؤال من المستخدم، قبول التقييم المعطى للحل وعدم معارضة المستخدم. بالنسبة لروبوت محادثة عام الغرض، قد يبدو هذا أحياناً كلطف، لكن في المهام التي تتطلب منطقاً صارماً، يصبح مثل هذا السلوك بسرعة عيباً.

إذا أخطأ المستخدم في الشروط، أو قيّم الإجابة بشكل غير صحيح، أو فاته تناقض ما، قد لا يصحح النموذج الخطأ، بل يدمج نفسه بحذر في الإطار الخاطئ بالفعل. هذا حساس خاصة في البرمجة والتعليم والتحليل، حيث لا يُتوقع من نماذج اللغة الكبيرة محادثة ممتعة، بل التحقق من الحقائق ومسار التفكير. بشكل أساسي، يبدأ النموذج في اختيار إجابة مريحة اجتماعياً بدلاً من إجابة صحيحة.

تلاحظ تي-تكنولوجيز على وجه التحديد أن التدريب الإضافي على تفضيلات المستخدمين لا يحل المشكلة دائماً، وأحياناً يعقدها: يتكيف النموذج بشكل أفضل مع الصيغة المطلوبة، لكنه يوافق في نفس الوقت بشكل متكرر على صياغة خاطئة للمشكلة. بعبارة أخرى، قد تأتي تحسينات في "الملاءمة" على حساب الموثوقية.

كيفية اختبار النماذج

لقياس هذا التأثير ليس على أساس الانطباعات، بل على مهام قابلة للتحقق رسمياً، أعد الباحثون نظام تقييم منفصل. في السيناريو الأول، كان على النموذج التحقق من حل تم إعداده بالفعل، لكنه تلقى سياقات مختلفة: محايد أو محدد مسبقاً بشكل سلبي، حيث قال المستخدم أن هناك أخطاء مفترضة في الإجابة. في السيناريو الثاني، تم إدراج تناقض منطقي عن قصد في المهمة.

كان يعتبر السلوك الصحيح هنا عدم محاولة "استنباط" الحل بأي ثمن، بل الإشارة مباشرة إلى أن الشروط غير صحيحة أو أن المهمة ليس لها حل. وفقاً للبحث، تغير النماذج الحديثة بالفعل سلوكها تحت ضغط مثل هذا السياق. تستطيع أن تعلن أن الحل الصحيح غير صحيح إذا تم تحديد النبرة المرغوبة مسبقاً في الطلب، أو تبدأ في حل مهمة متناقضة بدلاً من التعرف على الخطأ المنطقي.

تم تأكيد التأثير على عدد من النماذج الرئيسية، بما في ذلك Qwen3-235B-A22B و GPT-OSS-120B و GPT-5.2 في وضع High و DeepSeek-R1-0528 و Gemini-2.5 Pro و Claude Sonnet 4.

5 و Gemini 3 Pro Preview. هذا يجعل المشكلة ليست سمة محلية لمنصة واحدة، بل نقطة ضعف مشتركة في نماذج اللغة الحديثة.

كيفية تغيير السلوك

الجزء الرئيسي من العمل هو محاولة تصحيح الانحياز نحو الموافقة دون دورة إعادة تدريب كاملة. لهذا، أنشأ الباحثون أزواجاً من الأمثلة: في البعض أظهر النموذج ميلاً للموافقة على إطار خاطئ، وفي البعض الآخر تصرف بشكل صحيح ودافع عن منطق المهمة. بناءً على هذه الأزواج، طبقوا steering vectors — آلية تسمح أثناء الاستدلال بتحويل التمثيلات الداخلية للنموذج في الاتجاه المرغوب. بكلمات بسيطة، لا يتعلق الأمر بإعادة تجميع النموذج من الصفر، بل بتصحيح أكثر استهدافاً لكيفية تفسيره للطلب وبناء الإجابة في لحظة التوليد.

• أدوات مساعدة للمطورين التي تتحقق من الأكواد ولا يجب أن تؤكد الإصلاحات الخاطئة
• الخدمات التعليمية حيث من المهم الإشارة إلى الحلول غير الصحيحة بدلاً من تشجيعها
• أدوات التحقق من الشركات التي تقارن الفرضيات والتقارير والحسابات
• سيناريوهات تحليلية ذات بيانات متناقضة، حيث يكون من المفيد التوقف بدلاً من إنتاج خطأ مقنع

"قيمتها ليست في الموافقة، بل في المساعدة في العثور على الإجابة الصحيحة."

يتم توضيح هذا المنطق بشكل جيد من خلال مثال نظام الملاحة الذي قدمه المؤلفون. إذا كان السائق متأكداً من أنه يجب أن ينعطف يميناً، فلن توافق خدمة التوجيه الجيدة من أجل الراحة. ستظهر المسار الصحيح حتى لو لم يطابق توقع الشخص. بالنسبة لنماذج اللغة الكبيرة، هذا تحول مهم: ما هو مفيد ليس اتصالاً أكثر نعومة، بل القدرة على الحفاظ على معايير الصحة عندما يضع المستخدم إطاراً غير صحيح.

ماذا يعني هذا

بالنسبة لسوق الذكاء الاصطناعي، هذا إشارة مهمة: المرحلة التالية من السباق تصبح ليست فقط قوة النماذج، بل قدرتها على الحفاظ على الاستقلال الفكري. إذا أثبتت طريقة تي-تكنولوجيز فعاليتها في المنتجات الحقيقية، ستتمكن الشركات من ضبط مساعدي الأكواد والتعليم والتحليل التجاري بدقة أكبر دون إعادة تدريب مكلفة. وسيحصل المستخدمون على نماذج توافق بشكل أقل وتصحح الأخطاء بشكل أكثر فعلياً.