بعد الأعطال، لا يتراجع وكلاء الذكاء الاصطناعي عن عملهم إلا في 47% من الحالات رغم حلّهم 84% من المهام
أصلح الوكيل الشيفرة وشغّل الاختبارات، ثم غيّر مهلة الانتظار (timeout) في ملف الإعدادات وأرسل إشعارات، بينما لا يعيد git revert سوى الملفات. في اختبار UndoBench حلّ الوكلاء 84% من المهام، لكنهم تراجعوا بعد الفشل في 47% فقط من عمليات التشغيل التي كانت ناجحة في الظروف العادية. وتتفق خمسة تقارير على أن لقطة الحالة (snapshot) والمحظورات يجب أن تكون في شيفرة المنظومة المحيطة بالنموذج (harness)، لا في الـprompt. وإلا فسيترك الوكيل «الناجح» عطلًا خلفه.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
عدّل الوكيل الشيفرة، وشغّل الاختبارات، وحصل على بناء أخضر، ثم وضع وسم الإصدار. بعد ذلك يفشل اختبار التكامل، ويتبيّن أنه غيّر في الوقت نفسه مهلة الانتظار في ملف الإعدادات، واستدعى API خارجيًا، وأرسل إشعارات. يعيد الأمر git revert ملفات المستودع، لكنه لا يعيد إعدادات البيئة ولا الرسائل التي أُرسلت.
قاس مؤلفو UndoBench هذه الفجوة، وهو مجموعة اختبارات لقابلية التراجع عن أفعال الوكيل: ففي التشغيل العادي أنجز الوكلاء 84% من المهام، وحين أُضيف إلى التشغيل عطل مصطنع لم يتعافَ الوكلاء إلا في 47% من عمليات التشغيل التي كانت ناجحة في الظروف العادية. المقامات في هذين الرقمين مختلفة، ويحذّر المؤلفون من ذلك بأمانة، لكن الفجوة تبقى دالّة. درس كاتب التحليل على Habr خمسة تقارير من مؤتمرات الذكاء الاصطناعي الأخيرة، والخلاصة العملية للمطوّر هي أن قابلية التراجع يجب تصميمها حول النموذج، لا الاعتماد على أن يلغي النموذج عمله بنفسه.
UndoBench وEvoUndo: الوكيل حلّ المهمة لكنه لا يعرف كيف يتراجع عنها
اختُبر UndoBench على 2880 تجربة مزدوجة: تشغيل عادي مقابل تشغيل مع عطل. يتتبّع Git ملفات المستودع فقط، بينما يعدّل وكلاء البرمجة إعدادات البيئة، ويفعّلون middleware، ويحدّثون سجلات الأدوات، ويتصلون بخدمات خارجية مثل النشر أو قواعد البيانات. والتراجع عن الـcommit لا يمس هذه الآثار.
أظهر المشروع التالي للمؤلفين أنفسهم، EvoUndo، صورة أسوأ. في 600 مهمة من مهام التطوّر الذاتي حسّن الوكلاء مؤشراتهم في 478 حالة، لكن آلية الاستعادة تعطلت في 197 منها (نحو 42%): أصبح الوكيل أذكى وفقد قابلية التراجع. وتبيّن أن مطالبة النموذج بإصلاح التراجع عبر الـprompt بلا جدوى، إذ لم تعد أربع استراتيجيات إصلاح مع مُتحقّق (verifier) أيًّا من التعديلات الـ197، أي صفرًا.
ساعد أمران. الأول هو الارتباط بالحالة: لإعادة المهلة من 60 إلى 30 لا بد من معرفة القيمة القديمة. وحين زُوّد الوكيل بهذه البيانات ارتفعت الاستعادة من الصفر إلى 38 من 48 حالة. والثاني هو لغة تراجع أغنى: ففي تجربة معزولة ارتفعت الاستعادة من الصفر إلى 142 من 143 حالة، وعلى المجموعة كلها عادت 180 من 197 تعديلًا (نحو 92%). وصار عدد التحسينات المقبولة 461 من 600 بدلًا من 281. وتعمل الآلية هكذا: تُحفظ لقطة للحالة الأصلية قبل التعديل، ثم يجري الوكيل التغيير في بيئة اختبار ويشغّل خطة التراجع فورًا، ويقارن مُتحقّق مستقل النتيجة باللقطة. ولا يُقبل التعديل إلا إذا ارتفعت الجودة وعادت القيم إلى ما كانت عليه. وإذا استحال التراجع، يتوقف الوكيل ويستدعي إنسانًا.
المهلة والوكلاء الفرعيون والحصص: Microsoft وHarvey
يذكّر مهندس رئيسي (principal engineer) في Microsoft، وهو مؤلف الجسر مفتوح المصدر MCP Pacemaker (ويوضح أنه يعبّر عن رأي شخصي)، بأن انتهاء المهلة يعني فقط أن الرد لم يصل، لا أن العملية فشلت. ففي UndoBench يطلب الوكيل من نظام التتبّع إنشاء تذكرة، فينشئ الخادم التذكرة 781، لكن التأكيد يضيع، فيكرر الوكيل الطلب دون أن يعرف ما حدث. وعند ضياع الرد أنتجت إعادة المحاولة الساذجة نسخًا مكررة في 54% من التجارب.
المشكلة الثانية هي الوكلاء الفرعيون (subagents). فعند الفشل الجزئي يقدّمون نصًا سلسًا بالثقة نفسها التي يقدّمونه بها بعد تحقق كامل، ويرى المنسّق (orchestrator) المخرجات لكنه لا يرى حجم العمل الذي يقف خلفها. جمع المؤلف قواعده في مخطط SAFE، دون ادعاء أنه معيار عام: للحقائق مصدر ومدة صلاحية؛ والكتابة الخارجية تحدث مرة واحدة على الأكثر بإذن يُستخدم مرة واحدة تتحقق منه شيفرة على البوابة؛ والبدء المتوازي محدود؛ ويعيد الوكيل الفرعي حالة صريحة مع الأدلة، ويُعاد التحقق من التقرير بسكربت. أما التراجع نفسه فلا ينفّذه SAFE، إذ يتطلب إلغاء العمليات الخارجية خطوات تعويضية وفق نمط Saga.
أظهرت Harvey ثمن غياب الحصص. ففي أغسطس سبّب خلل تنبيهًا (alert) لكل مساحة عمل، وبدلًا من 50 مهمة معتادة في اليوم شُغّل نحو 900 وكيل خلال أربع ساعات. وفي أكتوبر أدرج مهندس واحد نحو 950 مهمة في ثلاث ساعات، وملأ الطابور مرة أخرى. بعد ذلك صارت التنبيهات المتكررة تُربط بتحقيق مفتوح، ومُرّرت عمليات التشغيل عبر طابور عادل يمنح الأولوية للبشر، وصارت قاعدة الأتمتة تُعطَّل بعد خمسة إخفاقات متتالية. وفي اختبار من 300 مهمة تسارع البدء، بحسب المتحدث، من ثانيتين تقريبًا إلى 70 مللي ثانية.
المحظورات في الشيفرة وسلّم الاستقلالية: Anthropic وMeta
قالت Lydia من فريق Claude Code إن عدد التغييرات ارتفع من 2500 يوميًا في مايو إلى أكثر من 30 000 في سبتمبر. ومنذ أغسطس يكون وضع auto mode مفعّلًا افتراضيًا: فهو يحظر 89% من الأوامر الخطرة بوضوح، بينما كان البشر يلتقطون نحو 14%. لكن نحو أمر واحد من كل عشرة أوامر خطرة يمرّ مع ذلك، ولذلك تأتي الضمانات من المنظومة المحيطة (harness) لا من الـprompt.
أما ما لا رجعة فيه، مثل قراءة .env وحذف التعديلات غير المحفوظة بـcommit، فتغلقه قواعد deny rules وsandbox على مستوى نظام التشغيل، لأن قاعدة السماح تتحقق من اسم الأمر فقط، لا من المكان الذي ستصل إليه العملية في داخلها. وهناك فخ أيضًا: عند exit code 1 يعلّم Claude Code المهمة بأنها منفّذة، ولكي يعيد الـhook الوكيل إلى التعديل يجب أن يُرجع exit code 2.
وضع فريق الحوادث في Meta (وبتقديرهم تُكتب هناك نحو ثلاثة أرباع الشيفرة الجديدة بمساعدة الذكاء الاصطناعي) رفيقًا واحدًا من الذكاء الاصطناعي في المناوبة، مع سلّم استقلالية كالذي يُطبّق على المهندس الجديد. يبدأ بالتحقيق فقط، ثم يكتب رقعات (patches) يوافق عليها إنسان، وبعد ذلك فقط يغلق بنفسه التنبيهات الكثيرة الضجيج والتنبيهات المكررة عبر CI. وفي مثال لملخص صباحي من 23 بندًا أغلق الوكيل 18 بنفسه، وتولّى 2، وسلّم 3 إلى إنسان.
ماذا تفعل عمليًا
التقط الحالة قبل أي تغيير يقع خارج Git. اطلب من الوكلاء الفرعيين حالة صريحة، وتحقق من الحالة الخارجية قبل إعادة إرسال الطلب. انقل المحظورات التي لا رجعة فيها إلى deny rules وsandbox. ضع حدودًا على عمليات التشغيل المتوازية وعلى التعطيل التلقائي للأتمتة. امنح الاستقلالية بحسب نوع الإجراء، مع مراعاة كلفة الخطأ وسجل النجاحات.
- 18 نوفمبر 2026تحليل 99 عملية ضغط في Claude Code: 35% من التفاصيل التي احتاجها الوكيل لم تصل إلى السياق
- 18 نوفمبر 2026OpenAI تطلق GPT-6.2 Astra: المركز الثاني في التصنيف وسعر أقل بنسبة 20%
- 18 نوفمبر 2026ثلاث أدوات «لتوفير التوكنات» رفعت فاتورة وكلاء الذكاء الاصطناعي بنسبة 18–46%
- 18 نوفمبر 2026Meituan تفتح أوزان نموذج وكيلي بـ1,6 تريليون معلمة جرى تدريبه دون Nvidia
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول UndoBench وEvoUndo: الوكيل حلّ المهمة لكنه لا يعرف كيف يتراجع عنها؟
اختُبر UndoBench على 2880 تجربة مزدوجة: تشغيل عادي مقابل تشغيل مع عطل. يتتبّع Git ملفات المستودع فقط، بينما يعدّل وكلاء البرمجة إعدادات البيئة، ويفعّلون middleware، ويحدّثون سجلات الأدوات، ويتصلون بخدمات خارجية مثل النشر أو قواعد البيانات. والتراجع عن الـcommit لا يمس هذه الآثار. أظهر المشروع التالي للمؤلفين أنفسهم، EvoUndo، صورة أسوأ. في 600 مهمة من مهام التطوّر الذاتي حسّن الوكلاء مؤشراتهم في 478 حالة، لكن آلية الاستعادة تعطلت في 197 منها (نحو 42%): أصبح الوكيل أذكى وفقد قابلية التراجع.
ما أبرز التفاصيل حول المهلة والوكلاء الفرعيون والحصص: Microsoft وHarvey؟
يذكّر مهندس رئيسي (principal engineer) في Microsoft، وهو مؤلف الجسر مفتوح المصدر MCP Pacemaker (ويوضح أنه يعبّر عن رأي شخصي)، بأن انتهاء المهلة يعني فقط أن الرد لم يصل، لا أن العملية فشلت. ففي UndoBench يطلب الوكيل من نظام التتبّع إنشاء تذكرة، فينشئ الخادم التذكرة 781، لكن التأكيد يضيع، فيكرر الوكيل الطلب دون أن يعرف ما حدث. وعند ضياع الرد أنتجت إعادة المحاولة الساذجة نسخًا مكررة في 54% من التجارب. المشكلة الثانية هي الوكلاء الفرعيون (subagents).
ما أبرز التفاصيل حول المحظورات في الشيفرة وسلّم الاستقلالية: Anthropic وMeta؟
قالت Lydia من فريق Claude Code إن عدد التغييرات ارتفع من 2500 يوميًا في مايو إلى أكثر من 30 000 في سبتمبر. ومنذ أغسطس يكون وضع auto mode مفعّلًا افتراضيًا: فهو يحظر 89% من الأوامر الخطرة بوضوح، بينما كان البشر يلتقطون نحو 14%. لكن نحو أمر واحد من كل عشرة أوامر خطرة يمرّ مع ذلك، ولذلك تأتي الضمانات من المنظومة المحيطة (harness) لا من الـprompt.
Build & Ship Production AI Agents Without Boilerplate Code
Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.