شرحت Habr AI معمارية وكيل تأملي: اعتماد أقل على الطيار الآلي، ومزيد من التحقق الذاتي

نشرت Habr AI تحليلاً لعمارة وكيل ذكاء اصطناعي تفكيري — نظام لا يستدعي فيه النموذج الأدوات ببساطة، بل يمر عبر دورة تحقق إلزامية قبل كل إجراء مهم. الفكرة الرئيسية بسيطة: في المهام التي تكون فيها تكلفة الخطأ عالية، من المفيد للوكيل أن يكون ليس الأسرع، بل الأكثر قابلية للتنبؤ.

لماذا السرعة وحدها ليست كافية

يعمل الوكيل النموذجي وفقاً لمخطط تفكير → عمل: يفهم المهمة بسرعة، ويصل فوراً إلى الملفات أو إدارة العلاقات مع العملاء أو البريد الإلكتروني أو المحطة الطرفية. في العرض التوضيحي يبدو هذا مثيراً للإعجاب، لكن في بيئة فعلية يصطدم هذا الوضع بسرعة بفشل النظام. تتحول هلوسة واحدة إلى إجراء، وتسحب عدم دقة واحدة حالة انهيار متسلسل من الأخطاء، وتفرض معنى خاطئ للهدف على النموذج تجاهل الآثار الجانبية. في النهاية، يبدو النظام واثقاً فقط حتى الاتصال الأول ببيانات غير كاملة أو مزعجة أو متناقضة.

يقترح مؤلف المقالة النظر إلى المشكلة ليس كنقص في «ذكاء» النموذج، بل كنقص في العمارة. حتى نموذج لغة كبير قوي يرتكب أخطاء إذا لم يكن لديه فترة راحة مدمجة للتحقق من جديد، وحدود واضحة للوصول، وآلية للتراجع. ولهذا السبب نتحدث ليس عن موجه جديد، بل عن حلقة تنفيذ جديدة تفرض إجباراً التفكير بين الإدراك والقرار والعمل. هذا هو السبب بالذات في أن السرعة وحدها لا تعتبر بعد الآن ميزة كافية.

كيف تعمل الدورة

بدلاً من ربط مباشر «فهمت — فعلت»، تصف Habr AI دورة من سبع خطوات حيث يجمع الوكيل في كل تكرار سياقاً طازجاً، ويبني خطة، ويشكل مسودة إجراء، ويتحقق من نفسه وعندئذ فقط يؤكد. إذا كانت البيانات غير كافية، يمكنه أن يتوقف، ويطرح سؤالاً توضيحياً، أو ينتظر رداً بشرياً دون فقدان حالة الجلسة. يجعل هذا النهج وضع الوكيل أقرب ليس إلى الطيار الآلي، بل إلى مساعد حذر يعرف كيفية وضع المهمة على توقف.

يبرز عدة عقد رئيسية في العمارة:

• السياق الديناميكي — قبل كل خطوة، يجمع الوكيل من جديد الأشياء المتاحة والأدوات والقيود وسجل الجلسة.
• مسودات التغييرات — تعيش أي تحديثات أولاً في طبقة مؤقتة، وليس مباشرة في الإنتاج.
• مرحلة التفكير — قبل الاكتمال، يجب أن يتحقق الوكيل من عدم تفويت الخطوات أو انتهاك الصيغة أو وجود تناقضات.
• بوابة التأكيد — تُوقف العمليات الخطرة حتى توافق صريح بشري.
• التأكيد والتراجع — بعد الموافقة، تُطبق التغييرات بطريقة ذرية، وفي حالة الفشل، يمكن استعادة الحالة من نسخة احتياطية.

منفصل مهم هو فكرة بروتوكول عام للأدوات. من خلال واجهة واحدة، يمكن توصيل مثل هذا الوكيل بنظام ملفات أو محطة طرفية أو قواعد بيانات أو إدارة علاقات العملاء أو متصفحات أو خدمات الدفع أو مواد المراجع الخاصة بالصناعة. لا تتغير المنطق: أولاً جمع السياق، ثم التخطيط، ثم التحقق، وعندئذ فقط التصرف. من خلال هذا، تنتقل نفس المخطط من التطوير إلى القانون والطب والتحليل والدعم دون إعادة تجميع كاملة للنواة.

أين توجد آليات الحماية

في المقالة، توضع السلامة ليس في «مرشح عند الإخراج»، بل داخل دورة التنفيذ ذاتها. تُقسم جميع الإجراءات حسب مستوى المخاطر: تمر القراءات الآمنة تلقائياً، والتغييرات تنشئ مسودات، والعمليات الهدامة تتطلب تأكيداً منفصلاً. هذا مهم للنشرات والبريد الضخم وحذف البيانات والمعاملات المالية وأي خطوة لا يمكن ببساطة التراجع عنها بزر العودة.

يبقى الإنسان في مثل هذا المخطط ليس مراقباً، بل صاحب حق النقض النهائي.

فوق هذه الطبقة، تعمل آليات الحماية التقنية: Scope Jail لا تسمح بتجاوز الموارد المسموح بها، كاشف الحلقة يوقف الإجراءات المتكررة، حدود التكرار والرموز تقطع سيناريوهات الانهيار، والنسخ الاحتياطية تسمح باستعادة جلسة إلى حالتها السابقة. حتى لو اقترح النموذج خطوة خطرة، تبقى القرار النهائي ليس مع النص، بل مع طبقة التنفيذ، التي تتحقق من كل استدعاء أداة. هذا يقلل من تكلفة الخطأ ويجعل حلقة الوكيل أكثر ملاءمة للإنتاج.

«الوكيل الأذكى ليس الذي يفعل كل شيء بنفسه»

يناسب هذا المخطط جيداً في المجالات التي يكون فيها الخطأ مكلفاً: القانون والطب والتمويل والدعم والتسويق والبنية التحتية. في كل مكان يستمر نفس النمط: أولاً الفرضية، ثم التحقق مقابل القواعد، ثم الإجراء ضمن الهامش. يمكن للوكيل أن يحضر الإخراج أو رداً مسودة أو خطة عمل أو مجموعة من التعديلات، لكن الخطوة النهائية تبقى دائماً واعية وقابلة للتحقق.

هذا بالضبط ما يميز المساعد عن المنفذ غير المشروط.

ماذا يعني هذا

عمارة الوكيل التفكيري هي محاولة لترجمة الذكاء الاصطناعي من وضع العرض المثير إلى وضع الأداة الفاعلة. بالنسبة للسوق، هذه إشارة مهمة: سيكون الفائزون ليس فقط النماذج الأكثر «ذكاءً»، بل أيضاً تلك الأنظمة التي يوجد فيها توقف للتحقق الذاتي وسجل شفاف للإجراءات والتراجع والإنسان في الحلقة. بالضبط مثل هؤلاء الوكلاء لديهم فرصة للعمل بشكل طبيعي في الإنتاج، وليس فقط للإعجاب بالسرعة في العروض التقديمية.

هذا لم يعد سحراً في الواجهة، بل نهج هندسي للاستقلالية.