LangChain تُعلّم LangSmith مواءمة أحكام LLM-as-a-Judge مع تقييمات البشر بدقة أكبر

نشرت LangChain في مدونتها تحليلاً لطريقة عمل أدوات التقييم ذاتية التعلّم (evaluators) في منصتها LangSmith، وهي أدوات تضبط أحكام LLM-as-a-Judge بما يتوافق مع تفضيلات البشر الفعلية. ويتناول المقال الشعبية المتزايدة لـ LLM-as-a-Judge، وهو أسلوب يقيّم فيه نموذج واحد جودة إجابات نموذج آخر، ويستند إلى أبحاث في مجال التعلّم بالأمثلة القليلة (few-shot).

ما هو LLM-as-a-Judge

LLM-as-a-Judge أسلوب لتقييم جودة إجابات النماذج اللغوية آلياً، إذ يُستخدم فيه نموذج لغوي آخر (غالباً أقوى) بدلاً من الترميز اليدوي على يد البشر، فيمنح درجات أو يقارن بين أزواج من الإجابات. وقد اكتسب هذا النهج شعبية سريعة في السنوات الأخيرة بوصفه وسيلة لخفض كلفة تقييم النماذج وتسريعه، بدءاً من المعايير العامة مثل MT-Bench وChatbot Arena، وصولاً إلى خطوط التقييم الداخلية في الشركات التي تطوّر منتجات قائمة على LLM.

ما مشكلة التباين مع البشر؟

يتمثل الخطر الرئيسي في LLM-as-a-Judge في الفجوة بين ما يعدّه النموذج القاضي إجابة «جيدة» وما يفضّله البشر فعلاً. فأدوات التقييم هذه تعاني انحيازات (bias) معروفة، مثل الميل إلى منح درجات أعلى للإجابات الأطول أو لتلك التي تأتي أولاً في زوج المقارنة. وتصف LangChain نهجاً لأدوات التقييم ذاتية التعلّم في LangSmith، وهي منصتها لتتبّع تطبيقات LLM واختبارها وتصحيح أخطائها في بيئة الإنتاج. وتستخدم هذه الأدوات تقنية التعلّم بالأمثلة القليلة (few-shot) لتضبط أحكام النموذج القاضي مع الوقت بدقة أكبر بما يتوافق مع التقييمات الفعلية للبشر.

• LangSmith منصة من LangChain لتتبّع تطبيقات LLM واختبارها وتقييمها في بيئة الإنتاج.
• يعتمد الأسلوب على التعلّم بالأمثلة القليلة (few-shot)، أي ضبط سلوك أداة التقييم عبر عدد قليل من الأمثلة التوضيحية بدلاً من إعادة تدريب النموذج بالكامل.
• الهدف هو تقليص الفجوة بين الأحكام الآلية لـ LLM-as-a-Judge وتفضيلات المقيّمين البشر الفعلية.

لماذا يهم ذلك الفرق التي تطوّر منتجات LLM

مع تزايد اعتماد الشركات على التقييم الآلي بدلاً من الترميز اليدوي المكلف، تؤثر دقة أدوات التقييم مباشرة في الإصدارات من النموذج أو من الـ prompt التي تصل في النهاية إلى بيئة الإنتاج. فقد يفوّت القاضي سيّئ المعايرة تراجعاً في الجودة، وقد يرفض في المقابل تعديلاً ناجحاً، وهذا مكلف في دورة التطوير التكراري لمنتجات الذكاء الاصطناعي. وتنافس LangSmith في هذا المجال منصات أخرى لمراقبة تطبيقات LLM وتقييمها (observability)، مثل Weights & Biases Weave وArize وBraintrust، وتصبح دقة أدوات التقييم المدمجة إحدى الحجج الرئيسية عند اختيار الأداة.

وتتقاطع فكرة المعايرة بالأمثلة القليلة مع اتجاه بحثي أوسع هو التعلّم المعزَّز من التغذية الراجعة البشرية (RLHF)، الذي تقوم عليه طريقة ضبط المختبرات الكبرى مثل OpenAI وAnthropic لنماذجها بما يتوافق مع تفضيلات البشر. والفرق أن المنطق نفسه، أي «ضبط النموذج بما يعجب البشر فعلاً»، لا يُطبَّق هنا على النموذج التوليدي ذاته، بل على نموذج قاضٍ مساعد يقيّم هذا النموذج التوليدي.

ماذا يعني ذلك

تمثل أدوات التقييم ذاتية التعلّم محاولة من القطاع لمعالجة أضعف نقطة في LLM-as-a-Judge: الثقة بأحكام نموذج قد يخطئ بالطريقة نفسها التي تخطئ بها النماذج التي يقيّمها.

وكلما اتسع استخدام LLM-as-a-Judge، من تقييم روبوتات الدردشة إلى ترتيب إجابات وكلاء الذكاء الاصطناعي في المهام متعددة الخطوات، ارتفعت كلفة كل انحياز منهجي في أداة التقييم. فهذا الانحياز يتراكم بصمت ويشوّه ما تعدّه الفرق «تحسيناً» في المنتج، بينما لن يلاحظه المستخدمون في الواقع، أو قد يعدّونه تراجعاً.