ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

AutoJudge من Sber يحدد الوكيل المسؤول عن الخطأ في 67% من الحالات بدلًا من 55%

في سلسلة من وكلاء الذكاء الاصطناعي، قد يصل خطأ مبكر واحد، كرقم قُرئ على نحو خاطئ، إلى النتيجة النهائية على أنه «قرار مشترك». يبني AutoJudge من Sber AI Lab القضاة بنفسه لكل عملية تشغيل، ويسمّي من السجل الوكيل الذي أخطأ أولًا. وفي اختبار Who&When، ومع نموذج GPT-4o نفسه، يُحدَّد المسؤول عن الخطأ في 67.24% من الحالات بدلًا من 55.17%. والمطلوب فحص المسار كله، لا الإجابة النهائية وحدها.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
AutoJudge من Sber يحدد الوكيل المسؤول عن الخطأ في 67% من الحالات بدلًا من 55%
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
يبني القضاةَ وكيلٌ فوقيخط معالجة مستقل لكل تشغيل للنظام
الوضع الاقتصاديخط معالجة واحد لمجموعة البيانات كاملة، لكن التكيّف مع كل تشغيل أدق
حقيقة رئيسية #3إذا اختلف القضاة، يعيد المُجمِّع قراءة سجل الخطوات الأصلي

تخيّل نظامًا يضم عدة وكلاء ذكاء اصطناعي. استخرج الأول رقمًا من مستند على نحو خاطئ، وحسب الثاني النتيجة بأمانة اعتمادًا على هذا الرقم، وأعدّ الثالث تقريرًا مرتبًا. تبدو كل خطوة معقولة، لكن الإجابة بأكملها خاطئة، ولا يمكن معرفة من أخطأ أولًا من النص النهائي. اقترح فريق الأبحاث التطبيقية في Sber AI Lab نظام AutoJudge: يبني النظام بنفسه مجموعة من «القضاة» يحللون سجل عمل الوكلاء ويحددون في أي خطوة ولدى أي وكيل وقع الخطأ. وفي اختبار Who&When، الذي يُطلب فيه تسمية الوكيل المسؤول اعتمادًا على سجل التشغيل، ارتفعت الدقة مع نموذج GPT-4o نفسه من 55.17% إلى 67.24%.

لماذا لا يكفي فحص الإجابة النهائية؟

ما دام نموذج اللغة الكبير يجيب في محادثة عادية، يمكن ملاحظة الخطأ بالعين. أما حين تُحفظ الإجابة في الذاكرة، أو تصبح مدخلًا للخطوة التالية، أو تطلق إجراءً ما، فلا تنفع المراجعة اليدوية. لذلك صار اكتشاف الهلوسة، أي البحث الآلي عن عبارات لا سند لها في بيانات النظام، جزءًا من دورة العمل الإنتاجية.

الحالة النموذجية في RAG تُسمّى الهلوسة السياقية. يرد في المستند: «شارك في الدراسة 120 شخصًا». فيجيب النموذج: «…قُسّموا بالتساوي إلى مجموعة ضابطة ومجموعة تجريبية». الرقم مأخوذ من المصدر، أما التقسيم بالتساوي فمن اختراع النموذج. المهم ليس ما إذا كان الكلام صحيحًا في المطلق، بل ما إذا كانت الإجابة مدعومة بما تلقّاه النظام فعلًا.

ثمة ثلاث عائلات من الطرق لفحص إجابة منفردة:

  • تقدير عدم اليقين. يُنظر إلى احتمالات الرموز (tokens) أو إلى مدى تباعد الإجابات المتكررة. لا حاجة إلى نموذج منفصل، لكن الثقة لا تساوي الصواب: فنموذج اللغة الكبير قادر على الخطأ بثقة.
  • فحص الحالات الداخلية. يُدرَّب مصنِّف صغير فوق التمثيلات المخفية للنموذج. وإذا كان المولِّد متاحًا عبر API فقط، يُستخدم نموذج مفتوح بديل. يلزم 300–500 مثال موسوم على الأقل.
  • نماذج القضاة. إما مصنِّف مدمج مبني على BERT، وإما نموذج لغوي كبير توليدي في دور القاضي. النموذج اللغوي الكبير أكثر مرونة ويناسب الحالات التي تقل فيها البيانات الموسومة، لكنه أغلى. ويحتاج ضبط القاضي إلى 1000 مثال فأكثر.

ولتجنب بناء بنية تحتية خاصة لكل طريقة، أنشأ Sber AI Lab مكتبة SIRIN. توفّر المكتبة واجهة موحدة للأساليب الثلاثة، وتعمل مع النماذج المفتوحة والمغلقة، وتبحث عن المشكلة في الإجابة كلها أو في مقطع منها. كما تتحقق قبل التوليد من كفاية المستندات التي عُثر عليها للإجابة: فإن لم تكفِ، يمكن إعادة البحث أو الامتناع عن الإجابة.

كيف يفحص AutoJudge تاريخ عمل الوكلاء

في النظام متعدد الوكلاء يختلف موضوع الفحص: إنه التاريخ الكامل لرسائل الوكلاء واستدعاءات الأدوات ونتائجها. وتُضاف إلى الهلوسات أخطاء التخطيط واستخدام الأدوات والتواصل والتجميع. وطرق تقييم هذه السجلات القائمة اليوم مرتبطة عادةً بقائمة محددة من أنواع الأخطاء وبخط فحص معرَّف مسبقًا. وإذا تغيّر النظام أو المعايير، يجب تصميم كل شيء من جديد.

يتلقى AutoJudge سجل التنفيذ، وتصنيف التقييم (أي قائمة أنواع الأخطاء المطلوب البحث عنها)، ومخطط النتيجة المطلوبة. بعد ذلك يحلل الوكيل الفوقي المهمة، وينشئ بنفسه مجموعة من القضاة الوسيطين المتخصصين ومُجمِّعًا نهائيًا. ينظر القضاة إلى مراحل العمل المختلفة، ويقارن المُجمِّع استنتاجاتهم بالبيانات الأصلية. وليس هذا تصويتًا بسيطًا: إذا تباينت التقديرات، يعود المُجمِّع إلى السجل الأصلي ويحسم التناقض.

يتوفر وضعان. في الوضع الرئيسي يُنشأ خط معالجة مستقل لكل تشغيل: كلفته أعلى، لكنه يتكيف بصورة أفضل مع سلوك الوكلاء. وفي الوضع الاقتصادي يُعاد استخدام خط معالجة واحد على مجموعة البيانات كلها. وفي التجارب كان التكيّف مع كل تشغيل بعينه أنفع عادةً، لا سيما حين يتصرف الوكلاء بطرق مختلفة.

وثمة مشكلة منفصلة هي حجم السجلات. فقد لا تتسع رسائل الوكلاء مع نتائج الأدوات في سياق كل قاضٍ. لذلك يستطيع AutoJudge العمل مع التاريخ الكامل ومع الموجز على السواء: يرى القضاة خطوات مضغوطة، ويستدعون الأصل المطلوب عند الحاجة من مخزن خارجي.

ما العمل بهذا عمليًا

تحققت الزيادة من 55.17% إلى 67.24% مع GPT-4o نفسه، فلا يمكن تفسيرها بنموذج أقوى. واختُبر النظام أيضًا على عدة مجموعات بيانات أخرى: بقيت خطوط المعالجة المبنية ديناميكيًا منافسة، وتفوقت في كثير من الأحيان على الصيغ الثابتة.

لا يعدّ المؤلفون AutoJudge معيارًا مرجعيًا شاملًا: ففي المقاييس شديدة التخصص يكون القضاة المضبوطون يدويًا أقوى أحيانًا. والوضع التكيفي أغلى كلفة، وقد يفقد ضغط السجل تفصيلًا مهمًا.

والخلاصة لمن يبنون الوكلاء: سجّلوا الخطوات ونتائج الأدوات بحيث يمكن تحليلها بعد التشغيل. وفي RAG أضيفوا فحص كفاية السياق قبل التوليد. وفي سلاسل الوكلاء المتعددين قيّموا المسار كله، لا الإجابة النهائية وحدها. عندئذ يتحول سؤال «هل الإجابة مدعومة؟» إلى سؤال أنفع: «في أي خطوة أخطأ النظام؟».

القصة

أسئلة وأجوبة حول الخبر

لماذا لا يكفي فحص الإجابة النهائية؟

ما دام نموذج اللغة الكبير يجيب في محادثة عادية، يمكن ملاحظة الخطأ بالعين. أما حين تُحفظ الإجابة في الذاكرة، أو تصبح مدخلًا للخطوة التالية، أو تطلق إجراءً ما، فلا تنفع المراجعة اليدوية. لذلك صار اكتشاف الهلوسة، أي البحث الآلي عن عبارات لا سند لها في بيانات النظام، جزءًا من دورة العمل الإنتاجية. الحالة النموذجية في RAG تُسمّى الهلوسة السياقية. يرد في المستند: «شارك في الدراسة 120 شخصًا». فيجيب النموذج: «…قُسّموا بالتساوي إلى مجموعة ضابطة ومجموعة تجريبية».

ما أبرز التفاصيل حول كيف يفحص AutoJudge تاريخ عمل الوكلاء؟

في النظام متعدد الوكلاء يختلف موضوع الفحص: إنه التاريخ الكامل لرسائل الوكلاء واستدعاءات الأدوات ونتائجها. وتُضاف إلى الهلوسات أخطاء التخطيط واستخدام الأدوات والتواصل والتجميع. وطرق تقييم هذه السجلات القائمة اليوم مرتبطة عادةً بقائمة محددة من أنواع الأخطاء وبخط فحص معرَّف مسبقًا. وإذا تغيّر النظام أو المعايير، يجب تصميم كل شيء من جديد. يتلقى AutoJudge سجل التنفيذ، وتصنيف التقييم (أي قائمة أنواع الأخطاء المطلوب البحث عنها)، ومخطط النتيجة المطلوبة.

ما أبرز التفاصيل حول ما العمل بهذا عمليًا؟

تحققت الزيادة من 55.17% إلى 67.24% مع GPT-4o نفسه، فلا يمكن تفسيرها بنموذج أقوى. واختُبر النظام أيضًا على عدة مجموعات بيانات أخرى: بقيت خطوط المعالجة المبنية ديناميكيًا منافسة، وتفوقت في كثير من الأحيان على الصيغ الثابتة. لا يعدّ المؤلفون AutoJudge معيارًا مرجعيًا شاملًا: ففي المقاييس شديدة التخصص يكون القضاة المضبوطون يدويًا أقوى أحيانًا. والوضع التكيفي أغلى كلفة، وقد يفقد ضغط السجل تفصيلًا مهمًا. والخلاصة لمن يبنون الوكلاء: سجّلوا الخطوات ونتائج الأدوات بحيث يمكن تحليلها بعد التشغيل.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…