وكلاء الذكاء الاصطناعي يخفون أخطاءهم: 6 أنماط من الإخفاقات الصامتة في الأتمتة

قد تُخفي أنظمة الوكلاء المعتمدة على الذكاء الاصطناعي أخطاءها خلف إجابات مقنعة: إجراء خاطئ، أو فقدان للسياق، أو قرار خاطئ. وهذه أنماط من الإخفاقات الصامتة، وهي أخطر من الأخطاء الصريحة في خطوط المعالجة (pipelines) المؤتمتة.

لماذا تُعدّ الإخفاقات الصامتة للوكلاء أخطر من الأخطاء الصريحة؟

يخطئ نموذج اللغة العادي في النص، وهذا الخطأ ظاهر. أما نظام الوكلاء فيعمل بطريقة مختلفة: فقد يكتب إجابة منطقية وصياغتها خالية من العيوب، وفي الوقت نفسه يستدعي أداة خاطئة، أو «ينسى» الحالة من الخطوة السابقة، أو يتخذ قرارًا خاطئًا بدرجة ثقة (confidence-score) عالية.

تكمن المشكلة في أن خدمات وأشخاصًا آخرين في سلسلة الأتمتة يثقون بمخرجات الوكلاء. فالخطأ غير المرئي في الإجابة النهائية ينتقل إلى أسفل خط المعالجة دون أن يُكتشف، ويتفاقم مع كل خطوة لاحقة. وكثيرًا ما لا تعلم الفرق بالإخفاق الصامت إلا حين يصبح تسلسل الأخطاء (cascade) مرئيًا على بعد عدة مستويات، وعندها يكون العثور على السبب الجذري أصعب بكثير.

ولهذا لا يبدأ التحقق من أنظمة الوكلاء بسؤال «ما مدى دقة النص»، بل بسؤال آخر: «كيف يمكن لهذا النظام تحديدًا أن يفشل في تدفق إجراءات حقيقي».

ثلاثة أنماط ذُكرت صراحةً

يورد المؤلفون ثلاثة أنماط رئيسية منذ مقدمة المقال:

• استدعاء أداة بشكل خاطئ — يختار الوكيل دالة غير صحيحة أو يمرّر إليها معاملات غير سليمة، لكنه يصوغ إجابته كما لو أن العملية اكتملت بنجاح. ولا يشتبه النظام اللاحق بوجود خطأ فيواصل عمله.
• فقدان الحالة بين الخطوات — في المهام متعددة الخطوات يفقد الوكيل سياق التكرارات السابقة ويواصل العمل ببيانات قديمة أو ناقصة. وتبقى الإجابة مترابطة ولا تثير الشكوك.
• ثقة عالية في قرار خاطئ — يُصدر النموذج استنتاجًا خاطئًا بدرجة ثقة (confidence-score) عالية. وهذه الحالات هي الأصعب في الاعتراض عليها: فالفحوصات الآلية تميل إلى الوثوق بالقرار ذي مؤشر الثقة المرتفع.

ويشمل التحليل الكامل ستة أنماط، بينها سيناريوهات أدق، مثل تعارض التعليمات والتفسير الخاطئ للنجاح الجزئي.

ما الذي ينبغي تغييره في الاختبار

المقاربات التقليدية لتقييم نماذج اللغة الكبيرة (LLM) — دقة الإجابة ومقاييس BLEU والتوسيم اليدوي — موجّهة نحو جودة النص. وهذا لا يكفي لأنظمة الوكلاء: فهي لا ترصد الإخفاقات السلوكية في السيناريوهات متعددة الخطوات، حيث لا يهم ما أجاب به النظام فحسب، بل ما فعله أيضًا.

«يبدأ التحقق من الوكلاء بسؤال ليس "ما مدى دقة النموذج"، بل "كيف يمكن

للنظام أن يفشل تحديدًا"» — الفكرة المحورية في التحليل.

والنهج الذي ينبع من هذا المبدأ هو بناء الاختبارات انطلاقًا من سيناريوهات إخفاق محددة، لا من مجموعة مرجعية من الإجابات الصحيحة. وهذا يتطلب إعادة النظر فيما يُسجَّل ويُفحص بالتحديد:

• تسجيل لا الإجابة النهائية فحسب، بل جميع استدعاءات الأدوات الوسيطة أيضًا — المعاملات وترتيب الاستدعاءات ورموز الإرجاع.
• اختبار الوكيل في سيناريوهات متعددة الخطوات تكون فيها الحالة بين الخطوات متعمَّدة الاضطراب أو الاكتمال الناقص.
• إيلاء اهتمام خاص للحالات الحدّية وسيناريوهات النجاح الجزئي — أي الحالات التي نُفِّذت فيها الأداة لكن ليس بالكامل.
• فحص السلوك عند تعارض التعليمات: ما الذي يمنحه الوكيل الأولوية حين تتناقض التوجيهات فيما بينها.

ماذا يعني ذلك

موثوقية أنظمة الوكلاء ليست دقة النموذج فحسب، بل أيضًا إمكانية التنبؤ بسلوكه عند الإخفاق. وفي عام 2026، مع تزايد دمج الوكلاء في العمليات المؤسسية دون فحص يدوي وسيط، ترتفع كلفة الأخطاء الصامتة. ومعرفة الكيفية التي قد يفشل بها النظام تحديدًا قبل وصوله إلى خط الإنتاج هي الجبهة التالية لموثوقية تطبيقات LLM.

لماذا يخطئ وكلاء الذكاء الاصطناعي بصمت؟

قد يكتب نظام الوكلاء إجابة منطقية وصياغتها خالية من العيوب، ويستدعي في الوقت نفسه أداة خاطئة، أو يفقد السياق، أو يتخذ قرارًا خاطئًا — وهذه الأخطاء غير مرئية في الإجابة نفسها.

بماذا تختلف الأخطاء الخفية للوكلاء عن الأخطاء الصريحة؟

يخطئ نموذج اللغة العادي في النص، وهذا الخطأ ظاهر. أما نظام الوكلاء فيعمل بطريقة مختلفة: فقد يعطي نتيجة صحيحة ظاهريًا، بينما يختبئ تحتها إجراء خاطئ أو فقدان للسياق.