التطوير القائم على الوكلاء دون حوكمة أمر خطير: مكدّس حوكمة من ثلاثة مستويات عمليًا

جعلت وكلاء الذكاء الاصطناعي المستقلون، الذين يخططون للمهام بأنفسهم ويكتبون الشيفرة ويراجعونها دون إشراف دائم من المطوّر، الحوكمة (Governance) عنصرًا إلزاميًا في البنية الهندسية التحتية، بعد أن كانت مجرد طبقة إضافية مساعدة.

ما الفرق بين الوكيل ومساعد الدردشة؟

في نمط مساعد الدردشة، يراجع المطوّر كل سطر بنفسه: النموذج يقترح والإنسان يقرر. أما الوكيل المستقل فيغيّر هذه المعادلة جذريًا: فهو يحدد المهام الفرعية بنفسه، ويكتب التنفيذ، ويشغّل الاختبارات، ويثبّت النتيجة، متخذًا آلاف القرارات الصغيرة في الساعة.

ولا يملك الإنسان عمليًا الوقت لمراجعتها جميعًا. ومن هذه الفجوة تنشأ الحاجة إلى الحوكمة، وهي منظومة لا تقتصر على القواعد، بل تشمل العمليات أيضًا: من يعتمد القواعد، وكيف تُطبَّق، ومن يراقب الالتزام بها. وبحسب مؤلفي المقال على Habr، فإن الحوكمة تغيّر مكانتها تحديدًا عند الانتقال من نمط الدردشة (chat) إلى النمط المستقل (autonomous): من «أمر مستحسن» إلى «أمر لا غنى عنه».

لماذا نحتاج إلى مكدّس من ثلاثة مستويات؟

بنى مؤلفو المقال مكدّس حوكمة محددًا لمنصة حجز الملاعب الرياضية على NestJS (الواجهة الخلفية) وNext.js (الواجهة الأمامية). ولم يكن اختيار المنصة عشوائيًا: فالحجز يعني منطق أعمال صارمًا من فترات زمنية وتداخلات ومعاملات، وقد يكون خطأ الوكيل فيه غير ملحوظ لكنه حرج.

يتألف المكدّس من ثلاثة مستويات:

• المستوى 1 — قاعدة الشيفرة: القواعد مدمجة في المشروع عبر أدوات فحص الشيفرة (linters) والقيود المعمارية والاتفاقيات. ولا يستطيع الوكيل مخالفتها دون أن يتسبب في خطأ صريح.
• المستوى 2 — سياسات سلوك الوكيل: فصل واضح بين «الوكيل يتصرف باستقلالية» و«الوكيل يطلب الموافقة». ويحدد الفريق هذا الحد مسبقًا، لا بعد وقوع الحادث.
• المستوى 3 — المراقبة والتدقيق: تتبّع كامل للقرارات. وبعد كل جلسة عمل يرى الفريق ما فعله الوكيل بالضبط، ولماذا، وما النتائج التي ترتبت على ذلك.

ومن دون المستوى الثالث يتحول المستويان الأولان إلى مجرد بيانات معلنة: تقع المخالفات، لكنها تبقى غير مرئية.

لماذا لا تُعدّ الحوكمة بيروقراطية؟

من المفاهيم الخاطئة الشائعة أن الحوكمة تُعامَل كعائق وطبقة زائدة من الموافقات. أما عمليًا فهي الطريقة الوحيدة للحفاظ على السرعة دون فقدان السيطرة.

«تتوقف الحوكمة عن كونها أداة مساعدة وتصبح متطلبًا صارمًا»، كما جاء في المادة المنشورة على

Habr.

يخفّض الوكيل المستقل تكلفة كتابة الشيفرة، لكنه يرفع في الوقت نفسه تكلفة الإشراف. ومن دون سياسات صريحة يقضي الفريق وقته في معالجة العواقب بدلًا من بناء المنتج. وفي منصة الحجز يتمثل الخطر المحدد في أن يغيّر الوكيل منطق التحقق من تداخل الفترات الزمنية دون أن يلاحظ أحد، فلا يظهر الخطأ في الاختبارات، بل في حجوزات متعارضة لمستخدمين حقيقيين. ويجعل المكدّس ذو المستويات الثلاثة هذا السيناريو مرئيًا قبل وقوعه لا بعده.

ماذا يعني ذلك

التطوير القائم على الوكلاء هو المرحلة التالية بعد Copilot ومساعدي الدردشة، وهو يُطبَّق بالفعل في مشاريع إنتاجية حقيقية. وستضطر الفرق الهندسية التي لا تبني مكدّس حوكمة الآن إلى القيام بذلك في ظروف أزمة.

الأسئلة الشائعة

ما الحوكمة في التطوير بوكلاء الذكاء الاصطناعي؟

الحوكمة ليست مجرد مجموعة قواعد، بل منظومة متكاملة: قواعد سلوك الوكيل، وعمليات اعتمادها، وأدوات مراقبة الالتزام بها. وعلى خلاف «التنظيم»، تشمل الحوكمة القيود المعمارية وسياسات الاستقلالية والتتبّع معًا، لا كلًّا على حدة.

لماذا لا تكفي القواعد المضمّنة في الشيفرة وحدها؟

القواعد التي لا تصاحبها مراقبة لا تعمل: فقد يخالفها الوكيل ولا يعلم الفريق بذلك إلا من نتائجها. والمستوى الثالث من المكدّس، أي التدقيق والتتبّع، لا يقل أهمية عن المستويين الأولين التقييديين.