نماذج الاستدلال لا تستطيع إخفاء أفكارها — وهذا أمر جيد

تخيّلوا موظفًا لا يستطيع الكذب، لا لأنه لا يريد ذلك، بل لأنه مُجبَر فعليًا على النطق بكل فكرة تخطر له. هذا بالضبط هو الوضع الذي تبيّن أن نماذج الاستدلال الحديثة تجد نفسها فيه، وتعدّه OpenAI من أكثر الاكتشافات المطمئنة في مجال أمان الذكاء الاصطناعي.

قدّمت الشركة أداة بحثية جديدة باسم CoT-Control، درست بها قدرة نماذج الاستدلال، أي تلك التي تعتمد ما يُعرف بسلاسل الأفكار (chain of thought, CoT)، على التلاعب عمدًا بمحتوى عمليتها الفكرية الداخلية. وجاءت النتائج متوقعة وعميقة الدلالة في آن واحد: تُظهر النماذج قدرة محدودة للغاية على التحكم في ما يظهر في سلاسل استدلالها. وببساطة، هي لا تُجيد إخفاء «أفكارها» بفاعلية.

ولفهم أهمية هذا الاكتشاف، لا بد من العودة إلى الخاصية المعمارية لنماذج الاستدلال. فخلافًا لنماذج اللغة العادية التي تولّد الإجابة مباشرة، تبني نماذج مثل سلسلة o من OpenAI أولًا سلسلة استدلال مفصّلة، أشبه بحوار داخلي يحلّل فيه النموذج المسألة خطوة بخطوة، ويدرس الخيارات، ويختبر الفرضيات، ثم يصوغ الإجابة النهائية فقط. وقد أصبحت هذه الطبقة الوسيطة من الاستدلال أداة قوية لرفع جودة الإجابات، لكنها طرحت في الوقت نفسه سؤالًا جوهريًا في الأمان: ماذا لو تعلّم نموذج متقدم بما يكفي أن يفكّر في أمر ويُظهر أمرًا آخر؟ وماذا لو استطاع إخفاء نواياه الحقيقية في سلسلة الأفكار، فيعرض على المراقبين مسار استدلال بريئًا بينما يسعى في الواقع إلى أهداف خفية؟

هذا السيناريو، المعروف باسم «المواءمة الخادعة» (deceptive alignment)، هو من أبرز كوابيس باحثي أمان الذكاء الاصطناعي. فإذا كان النموذج قادرًا على التحكم استراتيجيًا في عمليته الفكرية، تصبح مراقبة سلاسل الاستدلال بلا جدوى: لن نرى سوى ما يريد النموذج أن يُظهره لنا. وقد صُمّمت CoT-Control تحديدًا لاختبار هذا الخطر. فقد اختبر باحثو OpenAI بصورة منهجية مدى قدرة نماذج الاستدلال، بناءً على تعليمات أو نتيجة ضبط دقيق، على تغيير محتوى سلاسل أفكارها: إخفاء خطوات معينة، أو استبدال الاستدلال الحقيقي باستدلال زائف، أو إخفاء استراتيجيات حل المسائل.

وأظهرت النتائج نمطًا ثابتًا: النماذج تؤدي هذه المهمة بصورة سيئة. فحتى مع التعليمات المباشرة بإخفاء جوانب معينة من الاستدلال، يتسرّب مسار التفكير الحقيقي إلى السلسلة. وقد تحاول النماذج إعادة صياغة استدلالها، لكن العناصر الأساسية من استراتيجيتها الحقيقية تبقى مرئية للمراقب المتمعّن. وهذا ليس عجزًا مطلقًا، إذ يشير الباحثون إلى أن الوضع قد يتغير مع ازدياد قوة النماذج، لكنّ سلاسل الأفكار تظل في المستوى الحالي من التطور انعكاسًا «صادقًا» بدرجة كافية للعمليات الداخلية للنموذج.

ولهذا الاكتشاف تبعات عملية بالنسبة لقطاع أمان الذكاء الاصطناعي. فمراقبة سلاسل الاستدلال، أو ما يُعرف بـ«قابلية المراقبة» (monitorability)، يمكن أن تُستخدم آلية رقابة حقيقية. فإذا كنا نعلم أن النموذج لا يستطيع الكذب بفاعلية في استدلاله، يصبح تحليل CoT أداة موثوقة لاكتشاف السلوك الذي قد يكون خطيرًا. ويكتسب ذلك أهمية خاصة عند نشر نماذج الاستدلال في مجالات حساسة، من التشخيص الطبي إلى التحليل المالي والأنظمة المستقلة، حيث قد يكون فهم المسار الفكري الحقيقي للنموذج مسألة حياة أو موت.

غير أن OpenAI تحذّر بحق من أن عجز النماذج الحالي عن التحكم في سلاسل أفكارها لا يضمن أن يبقى الحال كذلك دائمًا. فمع ازدياد قدرات نماذج الاستدلال، قد تزداد أيضًا قدرتها على التحكم الاستراتيجي في عمليتها الفكرية. ولذلك تقدّم الشركة CoT-Control لا بوصفها دراسة لمرة واحدة، بل أداة للمراقبة المستمرة لهذه القدرة مع صدور أجيال جديدة من النماذج. وهكذا تبني OpenAI عمليًا نظام إنذار مبكر: فحين تبدأ النماذج في إخفاء استدلالها بفاعلية، سيكون ذلك إشارة إلى ضرورة مراجعة نموذج الأمان بأكمله.

وتندرج هذه الدراسة ضمن اتجاه أوسع يكتسب زخمًا في القطاع: الانتقال من «الأمان عبر القيود» إلى «الأمان عبر الشفافية». فبدلًا من الاكتفاء بمنع النموذج من فعل أشياء معينة، يركّز القطاع بصورة متزايدة على جعل العمليات الداخلية للنماذج قابلة للمراقبة والتفسير. وتمثّل سلاسل الاستدلال في هذا السياق نافذة فريدة على «تفكير» الذكاء الاصطناعي، وكون هذه النافذة لا يمكن حجبها من الداخل في الوقت الحالي يمنح الباحثين ميزة ثمينة في السباق بين قدرات النماذج وقدرتنا على السيطرة عليها.