Метод PCS: вероятностное управление steering-векторами для безопасного вывода LLM

نشرت مجموعة من الباحثين في يوليو 2026 على arXiv ورقة بحثية أولية (preprint) تعرض طريقة Probabilistic Concept-Aware Steering (PCS) — وهي تقنية للتحكم في مخرجات نماذج اللغة الكبيرة تُعدّل سلوك النموذج مباشرة أثناء الاستدلال (inference)، دون إعادة تدريب، وتركّز على سلامة الإجابات.

كيف تعمل steering vectors

تُعد steering vectors (متجهات التوجيه، SV) تدخلاً في عمل نموذج LLM أثناء التوليد: يُضاف إلى التنشيطات (activations) الوسيطة للنموذج متجه اتجاه مرتبط بمفهوم محدد. ودون المساس بالأوزان (weights) ودون تنفيذ أي خطوة إعادة تدريب، يعزّز المطوّر أو يضعف في الإجابة الخاصية المطلوبة — مثل الحذر، أو اللباقة، أو رفض المحتوى الخطر.

وتحظى هذه الطريقة بالتقدير لأنها تعمل في مرحلة inference وتُطبَّق فوق نموذج جاهز مسبقاً. ولهذا السبب بالتحديد أصبحت متجهات التوجيه من الأدوات الشائعة في قابلية التفسير (interpretability) والتحكم في LLM.

وتنتمي متجهات التوجيه إلى مجال أوسع هو قابلية تفسير الذكاء الاصطناعي ومحاذاته (alignment): إذ يسعى الباحثون ليس فقط إلى تفسير ما "يفكر" فيه النموذج داخل طبقاته الداخلية، بل أيضاً إلى التأثير في ذلك بطريقة يمكن التنبؤ بها. وتعمل PCS تحديداً في هذا المجال.

لماذا فشلت الطرق السابقة

كثيراً ما تُنتج طرق متجهات التوجيه الحالية سلوكاً "representation-incoherent" — أي غير متسق على مستوى التمثيلات الداخلية، ما يقوّض كلاً من قابلية التفسير والتحكم الدقيق في التوليد. والسبب، كما يشير المؤلفون في ورقة arXiv الأولية، يكمن في منهجية التقييم نفسها.

وعملياً، يعني عدم اتساق التمثيلات أنه عند تعزيز مفهوم واحد، قد يُحرّك النموذج بشكل غير متوقّع خصائص أخرى في الإجابة — وهو ما يعرقل الضبط الدقيق.

وكانت الأعمال السابقة تُقيّم التوجيه بمنطق ثنائي — فئتان فقط، "إيجابي مقابل سلبي" — واعتمدت على مقاييس تجميع (clustering) منفصلة (discrete). ولا يلتقط هذا النهج الطيف المتصل للمحاذاة الدلالية (semantic alignment): إذ تبقى الدرجات الوسيطة لمدى تطابق الإجابة مع مفهوم معيّن خارج الصورة.

ما الذي تقترحه PCS

تنقل PCS التوجيه من الوضع الثنائي إلى الوضع الاحتمالي، وتتكوّن من جزأين أساسيين:

• Concept-driven steering-vector retrieval — اختيار متجه التوجيه لمفهوم محدد، بدلاً من زوج خشن "موجب/سالب".
• Probabilistic strength calibration — معايرة احتمالية لقوة التدخل، تُجرّع الإزاحة بدلاً من التبديل الحاد بين تشغيل وإيقاف.
• الحفاظ على كفاءة النموذج الأصلية في أداء المهمة — دون كسر جودة الإجابات الأساسية.
• التوجّه نحو السلامة (safety) — إذ يُوجَّه الإزاحة الدلالية المتحكَّم بها نحو سلوك أكثر أماناً.

جاء في ملخص ورقة arXiv الأولية: "تحافظ PCS على الكفاءة الأصلية للنموذج

عند أداء المهمة، مع تمكين إزاحة دلالية قابلة للتحكم وموجّهة نحو السلامة".

وبدلاً من نقطة واحدة "مع" أو "ضد" مفهوم ما، تعمل PCS بتوزيع احتمالي للقوة، وهو ما يتيح التقاط الطيف المتصل للمحاذاة الدلالية الذي يتحدث عنه المؤلفون. ووفق تصوّر المؤلفين، يمنح ذلك في آن واحد تمثيلاً داخلياً أكثر اتساقاً، ويحافظ على الجودة في المهمة الأصلية.

ما الذي يعنيه هذا

يظل التحكم في LLM في مرحلة inference — دون إعادة تدريب ودون الوصول إلى الأوزان — طريقة رخيصة لتحسين سلامة الإجابات وقابليتها للتنبؤ. وتقترح PCS القيام بذلك بشكل أدق: ليس كمفتاح ثنائي، بل كمقبض صوت احتمالي. وحتى الآن، هذه ورقة أولية من يوليو 2026 دون معايير مرجعية (benchmarks) منشورة، لذا من المبكر الحكم على المكسب الفعلي، لكن الاتجاه نحو safety وقابلية التفسير معلن بوضوح.

الأسئلة الشائعة

ما هي steering vectors بعبارات بسيطة؟

هي متجه يُضاف إلى التنشيطات الداخلية لنموذج اللغة أثناء التوليد، بهدف تعزيز أو إضعاف خاصية مطلوبة في الإجابة. لا تتطلب الطريقة إعادة تدريب، وتعمل فوق نموذج جاهز في مرحلة inference.

بم تختلف PCS عن طرق التوجيه السابقة؟

تبتعد PCS عن التقييم الثنائي "إيجابي مقابل سلبي" ومقاييس التجميع المنفصلة، لتتجه نحو نهج احتمالي: اختيار متجه concept-driven ومعايرة احتمالية لقوة التدخل. والهدف هو الحفاظ على جودة النموذج الأصلية وإضافة إزاحة قابلة للتحكم نحو السلامة.