مؤلف على Habr يقترح فحص قبول لوكلاء الذكاء الاصطناعي: كلمة «تم» تتطلب أدلة

أغلى خطأ يرتكبه وكيل ذكاء اصطناعي في بيئة العمل يبدو كأنه نجاح: كلمة «تم» قصيرة لا يقف خلفها شيء. يقترح مؤلف مقال حديث على Habr نقل التركيز من جودة الإجابة إلى قبول العمل: ما الذي يجب أن يحدث تحديدًا كي تُعدّ المهمة مغلقة. والفكرة التي يطرحها في المقدمة حادّة. فالمساعد الذي يقترح صياغات يمكن أن نغفر له فقرة غير موفقة، أما الوكيل الذي يغيّر بيانات العمل فلم يعد ذلك مقبولًا معه.

لا يتضمن الجزء المفتوح من المادة أي اختبارات معيارية (benchmarks) ولا منهجيات محددة، فهذه تبقى في النسخة الكاملة على Habr. لكن طرح المسألة نفسه دقيق ويستحق التحليل، لأن الحد الفاصل بين العروض التجريبية والإنتاج يمرّ اليوم من هنا بالذات.

لماذا لا تثبت كلمة «تم» شيئًا

يُصدر المساعد نصًا، ويقرؤه الإنسان ويقرر ما يفعل به. أي إن نقطة التحقق مدمجة في العملية. أما الوكيل فيتصرف بنفسه: يكتب في CRM، ويعدّل الجداول، ويشغّل السكربتات، ويرسل الرسائل. وتقريره «المهمة منجزة» يظل نصًا مولَّدًا مثل أي إجابة أخرى من النموذج. قد يطابق حالة النظام وقد لا يطابقها.

والسيناريو التالي معروف. يذهب أحد الزملاء للتحقق، فيكتشف تباينات، ويعيد العمل يدويًا، ويقدّم توضيحات لمن تضرّروا. وهكذا تنتقل كلفة الخطأ من الوكيل إلى البشر دون أن يلاحظ أحد: ففي إحصاءات الأتمتة تظل المهمة مسجّلة على أنها منجزة.

القبول بدلًا من الثقة

منطق القبول مستعار من الهندسة التقليدية. تُحدَّد معايير إغلاق المهمة قبل التشغيل، وتُفحص بحالة النظام، لا بما يرويه الوكيل. هل أُنشئ السجل فعلًا؟ هل عُدّل الحقل المطلوب؟ هل يطابق عدد الصفوف المتأثرة العدد المتوقع؟ وهل بقي كل ما سواه دون مساس؟

يميّز العمل الهندسي عادةً بين ثلاثة مستويات لهذا الفحص:

• النتيجة: بلوغ الحالة المستهدفة، ويظهر ذلك في النظام نفسه؛
• الحدود: مقارنة الحالة قبل التنفيذ وبعده تُظهر التغييرات المخطط لها فقط؛
• الأثر: سجل أفعال الوكيل يتيح استعادة ما فعله بالضبط وبأي ترتيب.

تكمّل هذه المستويات بعضها. فالنتيجة دون فحص الحدود ستُغفل التعديلات الجانبية، والسجل وحده دون فحص النتيجة سيتحول إلى حكاية جميلة عن كيف كان كل شيء سيكون رائعًا.

ما المقاييس التي ينبغي احتسابها

ما دام القبول غير مقيس، يبقى النقاش في حدود الانطباعات. هذه مجموعة دنيا من المؤشرات للفريق الذي يُدخل وكيلًا إلى عملية العمل:

• نسبة «تم» الكاذبة: المهام المعلنة مغلقة لكنها لم تجتز الفحص؛
• نسبة المهام المقبولة دون تعديلات من الإنسان؛
• الوقت الذي يقضيه الإنسان في فحص مهمة واحدة؛
• نسبة المهام التي أُتمتت عملية التحقق منها؛
• عدد حالات التراجع عن التغييرات خلال فترة معينة.

من المهم النظر إلى هذه الأرقام معًا. فإذا كان الوكيل يغلق مهام كثيرة بينما يزداد وقت إعادة الفحص اليدوي، فالتوفير وهمي.

من أين نبدأ عمليًا

اختر مهمة واحدة ينفذها الوكيل بالفعل، وقبل التشغيل التالي دوّن معايير إغلاقها بصيغة قابلة للفحص. فإذا تعذّر التحقق من معيار ما بسكربت أو باستعلام، فهو فضفاض أكثر من اللازم وسيتعيّن إعادة صياغته.

ثم افصل الجهة الفاحصة عن الجهة المنفِّذة. فالفحص الذي يشغّله الوكيل نفسه ويفسّر نتيجته بنفسه يكرر المشكلة الأصلية. أما استعلام بسيط على قاعدة البيانات أو مقارنة المخرجات قبل التنفيذ وبعده فأكثر موثوقية من التقرير الذاتي.

وأخيرًا، أبقِ للإنسان دور المراقب بالعيّنات حيث يكون الخطأ مكلفًا: التغييرات الجماعية في البيانات، والعمليات المالية، والمراسلات الخارجية. وفي ما عدا ذلك يكفي قبول آلي بعتبة واضحة، فإذا تجاوزها الخطأ أُعيدت المهمة إلى الفحص اليدوي.

تُختصر فكرة مؤلف Habr في قاعدة بسيطة: يحصل الوكيل على حق قول «تم» فقط مقترنًا بدليل. وفي سوق يُدفع فيه بالوكلاء إلى عمليات العمل على نطاق واسع، هذا معيار سليم وقليل الكلفة.