طريقة PCS: تحكم احتمالي في متجهات التوجيه لإنتاج مخرجات آمنة من نماذج LLM

نشرت مجموعة من الباحثين في يوليو 2026 على arXiv ورقة بحثية أولية (preprint) تعرض طريقة Probabilistic Concept-Aware Steering (PCS). وهي تقنية للتحكم في مخرجات النماذج اللغوية الكبيرة تعدّل سلوك النموذج أثناء الاستدلال مباشرة ودون إعادة تدريب، وتركّز على سلامة الإجابات.

كيف تعمل متجهات التوجيه (steering vectors)

متجهات التوجيه (SV) هي تدخل في عمل LLM أثناء التوليد: يُضاف إلى التنشيطات الوسيطة للنموذج متجه اتجاهي مرتبط بمفهوم محدد. ومن دون المساس بالأوزان ودون تنفيذ أي خطوة من الضبط الإضافي، يستطيع المطوّر تقوية خاصية مطلوبة في الإجابة أو إضعافها، مثل الحذر أو اللباقة أو رفض المحتوى الخطر.

يُقدَّر هذا الأسلوب لأنه يعمل في مرحلة الاستدلال ويُطبَّق فوق نموذج جاهز. ولهذا السبب أصبحت متجهات التوجيه من الأدوات الشائعة في قابلية التفسير والتحكم في LLM.

تنتمي متجهات التوجيه إلى مجال أوسع هو قابلية التفسير ومواءمة (alignment) الذكاء الاصطناعي: يسعى الباحثون إلى شرح ما «يفكّر» فيه النموذج داخل طبقاته الداخلية، وإلى التأثير في ذلك بصورة يمكن التنبؤ بها. وتعمل PCS ضمن هذا المجال تحديدًا.

لماذا أخفقت الطرق السابقة

غالبًا ما تنتج الطرق الحالية لمتجهات التوجيه سلوكًا «غير متسق في التمثيلات» (representation-incoherent)، أي غير متسق على مستوى التمثيلات الداخلية، مما يقوّض قابلية التفسير والتحكم الدقيق في التوليد معًا. ويرى المؤلفون في الورقة المنشورة على arXiv أن السبب يكمن في منهجية التقييم نفسها.

عمليًا، يعني عدم اتساق التمثيلات أنه عند تقوية مفهوم واحد قد يزيح النموذج خصائص أخرى في الإجابة بصورة لا يمكن التنبؤ بها، وهذا ما يعيق الضبط الدقيق.

قيّمت الأعمال السابقة التوجيه بمنطق ثنائي، أي فئتان فقط هما «الإيجابي مقابل السلبي»، واعتمدت على مقاييس تجميع (clustering) متقطعة. لا يلتقط هذا النهج الطيف المتصل للمواءمة الدلالية: فالدرجات الوسيطة لمدى انسجام الإجابة مع المفهوم المحدد تبقى خارج الصورة.

ما الذي تقترحه PCS

تنقل PCS التوجيه من النمط الثنائي إلى النمط الاحتمالي، وتتكوّن من جزأين رئيسيين:

• Concept-driven steering-vector retrieval: اختيار متجه التوجيه بحسب مفهوم محدد، لا بحسب زوج «زائد/ناقص» فظّ.
• Probabilistic strength calibration: معايرة احتمالية لقوة التدخل تضبط مقدار الانزياح بدل التشغيل والإيقاف الصارمين.
• الحفاظ على كفاءة النموذج الأصلية في المهمة: فالجودة الأساسية للإجابات لا تتضرر.
• التوجه نحو السلامة: يُوجَّه الانزياح الدلالي المضبوط نحو سلوك أكثر أمانًا.

«تحافظ PCS على كفاءة النموذج الأصلية في أداء المهمة، وتوفّر في الوقت

نفسه انزياحًا دلاليًا مضبوطًا موجّهًا نحو السلامة»، بحسب ما ورد في ملخص الورقة على arXiv.

بدلًا من نقطة واحدة «مع» المفهوم أو «ضده»، تعمل PCS مع توزيع احتمالي للقوة، وهذا ما يتيح التقاط الطيف المتصل للمواءمة الدلالية الذي يتحدث عنه المؤلفون. وبحسب تصور المؤلفين، يمنح ذلك تمثيلًا داخليًا أكثر اتساقًا، ويبقي الجودة في المهمة الأصلية في الوقت نفسه.

ماذا يعني ذلك

يظل التحكم في LLM في مرحلة الاستدلال، دون إعادة تدريب ودون الوصول إلى الأوزان، وسيلة منخفضة التكلفة لرفع سلامة الإجابات وإمكانية التنبؤ بها. وتقترح PCS تنفيذ ذلك بدقة أكبر: ليس بمفتاح ثنائي، بل بمقبض صوت احتمالي. لكن الأمر حتى الآن ورقة أولية صادرة في يوليو 2026 ولا تتضمن اختبارات معيارية (benchmarks) منشورة، لذلك من المبكر الحكم على المكسب الفعلي، غير أن الاتجاه المعلن في مجالي السلامة (safety) وقابلية التفسير واضح.

أسئلة شائعة

ما هي متجهات التوجيه بعبارات بسيطة؟

هي متجه يُضاف إلى التنشيطات الداخلية للنموذج اللغوي أثناء التوليد، بهدف تقوية خاصية مطلوبة في الإجابة أو إضعافها. لا تتطلب هذه الطريقة إعادة تدريب، وتعمل فوق نموذج جاهز في مرحلة الاستدلال.

بماذا تختلف PCS عن طرق التحكم السابقة؟

تبتعد PCS عن التقييم الثنائي «الإيجابي مقابل السلبي» ومقاييس التجميع المتقطعة، وتتجه إلى نهج احتمالي: اختيار المتجه بحسب المفهوم (concept-driven) ومعايرة احتمالية لقوة التدخل. والهدف الحفاظ على الجودة الأصلية للنموذج وإضافة انزياح مضبوط نحو السلامة.