Shepherd من Northeastern وStanford يمنح وكلاء الذكاء الاصطناعي «Git» وإمكانية التراجع عن الأخطاء
الوكلاء الذين يعملون لفترات طويلة دون إشراف يرتكبون أحيانًا أفعالًا لا رجعة فيها، مثل مسح صندوق بريد كامل أو اختراق مواقع. في Shepherd تُحفظ كل خطوة للوكيل على شكل «commit» كما في Git، ويعترض وكيل مشرف الإجراء الخطر ويعيد العمل إلى الوراء. فالرسالة الإلكترونية مثلًا تذهب أولًا إلى صندوق حماية (sandbox)، ولا تُرسل فعليًا إلا بعد التحقق منها. وينبغي لمن يبنون الوكلاء أن يعتمدوا هذا الأسلوب.
معالج بواسطة الذكاء الاصطناعي من IEEE Spectrum AI؛ بتحرير Hamidun News
يُشغَّل وكلاء الذكاء الاصطناعي لفترات طويلة ودون إشراف، وكلما طال عملهم ارتفع احتمال أن يقدم أحدهم على فعل لا رجعة فيه. وقد سُجلت بالفعل حالات مسح فيها وكيل صندوق بريد كاملًا، أو اخترق مواقع، أو حتى شنّ هجمات سيبرانية. واقترح باحثون من Northeastern University وStanford حلًا يعرفه كل مطوّر: أن نفعل للوكلاء ما يفعله Git للكود.
تُحفظ كل خطوة للوكيل على شكل «commit» (لقطة للحالة)، ولذلك يمكن العودة إلى أي لحظة. تخيّل وكيلًا يوشك على إرسال رسالة خاطئة إلى عميل. في النظام المعتاد تكون الرسالة قد أُرسلت فعلًا.
أما في Shepherd فيعترضها صندوق الحماية (sandbox)، ويقرر وكيل مشرف أو إنسان هل تُرسل الرسالة فعليًا أم يُعاد الوكيل خطوة إلى الوراء. وإذا كان وكيلك يتعامل مع البريد أو الملفات أو عمليات النشر (deploy)، فهذا الأسلوب جدير بأن تعتمده من الآن.
الراعي والخراف
يشرح صاحب الفكرة، أستاذ Northeastern وي يان شي، الأمر بأن الوكلاء العاملين أشبه بخراف تتجول، والوكيل الفوقي (meta-agent) أشبه براعٍ يعيدها إلى الطريق الصحيح. ومن هنا جاء اسم الإطار Shepherd، أي «الراعي». يراقب الوكيل الفوقي السلوك، ويتحقق من جودة العمل، ويرفع المشكلة إلى الإنسان عندما يكون ذلك مناسبًا. ويبقى الإنسان صاحب القرار: يمكنه التدخل وتوجيه الوكيل الفوقي نفسه.
المبدأ مألوف لكل من عمل ضمن فريق. المبرمج المبتدئ ينفذ المهمة، وقائد الفريق يراجع النتيجة، وفي الحالات الخلافية يستدعي المدير. هنا التسلسل الهرمي نفسه، لكن المشاركين فيه نماذج. وبحسب شي، تلزم هذه «الطبقة الوسطى» لأن الأخطاء والأفعال غير الآمنة تزداد احتمالًا كلما طال عمل الوكلاء.
كيف يعمل: التحكم في الإصدارات للأفعال
في منظومات مثل GitHub يستطيع المبرمجون نسخ الكود («fork»)، وحفظ إصدار («commit»)، ومراجعة التعديلات، والتراجع إذا تعطل شيء. وShepherd يفعل الشيء نفسه مع عمل الوكيل. وهو مكتوب بلغة Python ويقوم على مبادئ البرمجة الوظيفية. يُسجَّل كل فعل للوكيل مع حالته وبيئته (صندوق البريد، ونظام الملفات، وغير ذلك) على شكل commit. ومن هذه الـcommits يتكوّن رسم بياني للخطوات.
ويستطيع الوكيل الفوقي الانتقال عبر هذا الرسم إلى أي نقطة. فهو يراقب الوكيل العامل، ويعترض الفعل الخاطئ، ويعيد الوكيل إلى الخطوة السابقة، ثم يطلق نسخة مختلفة انطلاقًا من تلك النقطة.
وهناك أيضًا جانب الحماية. يقول الباحث في Stanford ديريك تشونغ إن الوكيل العامل يظن أنه يعيش في عالم عادي ويرسل رسائل. لكن صندوق الحماية في Shepherd يعترض الفعل، ثم يقرر الوكيل الفوقي أو الإنسان هل تُرسل الرسالة. ويصف تشونغ ذلك بأنه سياج وأداة تحكم.
ثلاثة سيناريوهات وما لا يزال مجهولًا
لإثبات أن الفكرة تعمل، أعدّ الفريق ثلاثة أمثلة:
- مشرف على مبرمجين متوازيين. تدخّل عندما تعارض وكلاء يكتبون الكود معًا في ثنائيات. وقد رفع ذلك نسبة الاختبارات الناجحة في أحد المعايير (benchmarks).
- محسّن لعملية جاهزة. اقترح تعديلات موضعية على سير عمل مكتمل لدى الوكيل، وتحقق منها بإعادة تشغيل الأجزاء المتأثرة فقط من التشغيل، لا التشغيل كله من جديد. وبهذا تحسّنت النتيجة.
- مدرّب في التعلم المعزز. اختار الخطوات التي ينبغي أن «يتفرع» عندها التشغيل ليسلك الوكيل مسارًا أفضل، وكافأه أثناء العمل.
لا تتضمن عرض IEEE Spectrum أرقامًا محددة للتحسن، ولذلك لا يمكن تقدير حجم التحسينات إلا من الورقة البحثية نفسها. وستُعرض الورقة في مؤتمر NeurIPS في ديسمبر 2026. وShepherd مفتوح على GitHub، لكن الفريق، بحسب تشونغ، لا يزال يعمل على نقله من نسخة ألفا إلى الجاهزية للإنتاج.
ما الفائدة للممارسين
يمكن الأخذ بالنهج نفسه دون انتظار نضج Shepherd. أولًا، تدوين سجل للخطوات مع الحالة، ليمكن الرجوع إلى أي لحظة. ثانيًا، إرسال الأفعال الخطرة إلى صندوق الحماية أولًا، وعدم إطلاقها إلى الخارج إلا بعد التحقق منها. ثالثًا، وضع مراجع مستقل فوق الوكلاء العاملين، بدل أن نطلب من نموذج واحد أن يراقب نفسه.
يندرج Shepherd ضمن مبادرة أوسع هي Agent Sciences Research Initiative (ASRI)، التي أسسها تشونغ وشي. ويعمل فيها باحثون من Northeastern وStanford وUC Berkeley. وهدف المجموعة جعل الوكلاء أكثر موثوقية، وتحسين تقييمهم، ورفع مستوى الأمان. ويرى تشونغ أن حوكمة الوكلاء تزداد أهمية: إذ ينبغي أن يكون الوكلاء قادرين على التحقق من بعضهم والتدخل في عملهم، كما يفعل المديرون.
- 22 نوفمبر 2026وكيل Microsoft كتب أوزان الشبكة العصبية يدويًا وحقق دقة 100% في 13 مهمة
- 22 نوفمبر 2026الوكلاء يكتبون شيفرة تعمل في 95% من المهام، لكنهم يتركون ثغرة أمنية في معظمها
- 22 نوفمبر 2026Together AI: وكيل ذكاء اصطناعي ينشر مفتاحًا على GitHub عن طريق الخطأ، وطرف خارجي ينزّل المطالبات
- 22 نوفمبر 2026Inworld تفتح شيفرة Voice Isolator: نموذج ينقّي الصوت من الضوضاء في الوقت الفعلي
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول الراعي والخراف؟
يشرح صاحب الفكرة، أستاذ Northeastern وي يان شي، الأمر بأن الوكلاء العاملين أشبه بخراف تتجول، والوكيل الفوقي (meta-agent) أشبه براعٍ يعيدها إلى الطريق الصحيح. ومن هنا جاء اسم الإطار Shepherd، أي «الراعي». يراقب الوكيل الفوقي السلوك، ويتحقق من جودة العمل، ويرفع المشكلة إلى الإنسان عندما يكون ذلك مناسبًا. ويبقى الإنسان صاحب القرار: يمكنه التدخل وتوجيه الوكيل الفوقي نفسه. المبدأ مألوف لكل من عمل ضمن فريق. المبرمج المبتدئ ينفذ المهمة، وقائد الفريق يراجع النتيجة، وفي الحالات الخلافية يستدعي المدير.
ما أبرز التفاصيل حول كيف يعمل: التحكم في الإصدارات للأفعال؟
في منظومات مثل GitHub يستطيع المبرمجون نسخ الكود («fork»)، وحفظ إصدار («commit»)، ومراجعة التعديلات، والتراجع إذا تعطل شيء. وShepherd يفعل الشيء نفسه مع عمل الوكيل. وهو مكتوب بلغة Python ويقوم على مبادئ البرمجة الوظيفية. يُسجَّل كل فعل للوكيل مع حالته وبيئته (صندوق البريد، ونظام الملفات، وغير ذلك) على شكل commit. ومن هذه الـcommits يتكوّن رسم بياني للخطوات. ويستطيع الوكيل الفوقي الانتقال عبر هذا الرسم إلى أي نقطة.
ما أبرز التفاصيل حول ثلاثة سيناريوهات وما لا يزال مجهولًا؟
لإثبات أن الفكرة تعمل، أعدّ الفريق ثلاثة أمثلة: مشرف على مبرمجين متوازيين. تدخّل عندما تعارض وكلاء يكتبون الكود معًا في ثنائيات. وقد رفع ذلك نسبة الاختبارات الناجحة في أحد المعايير (benchmarks). محسّن لعملية جاهزة. اقترح تعديلات موضعية على سير عمل مكتمل لدى الوكيل، وتحقق منها بإعادة تشغيل الأجزاء المتأثرة فقط من التشغيل، لا التشغيل كله من جديد. وبهذا تحسّنت النتيجة. مدرّب في التعلم المعزز. اختار الخطوات التي ينبغي أن «يتفرع» عندها التشغيل ليسلك الوكيل مسارًا أفضل، وكافأه أثناء العمل.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.