AgentDoG: كيف سيروّض «طوق التشخيص» وكلاء الذكاء الاصطناعي لديكم

هل تذكرون الضجة التي أثارتها AutoGPT وBabyAGI قبل عام؟ بدا حينها أننا على وشك أن نسلّم وكيل الذكاء الاصطناعي بطاقة ائتمان، فيحجز لنا إجازة ويشتري البقالة ويكتب التقرير السنوي نيابةً عنا. لكن الواقع جاء أكثر نثرية بكثير: كانت الوكلاء تدخل في حلقات مفرغة، وتهلوس، وتنفق آلاف الدولارات على طلبات API عديمة الفائدة. والمشكلة الرئيسية في الصناعة اليوم هي غياب الشفافية. نحن نبني أنظمة معقدة على أساس النماذج اللغوية، وعندما تتعطل ننظر إليها كما ننظر إلى حيوانات أليفة متقلبة المزاج، دون أن نفهم ما الذي حدث بالضبط. قرر الباحثون معالجة ذلك، فقدّموا AgentDoG، وهو نظام يصفونه مجازًا بأنه «طوق تشخيصي».

جوهر المشكلة أن وكلاء الذكاء الاصطناعي الحاليين هم «صناديق سوداء» داخل «صناديق سوداء» أخرى. عندما تطلب من الوكيل تحليل السوق، ينفّذ عشرات المهام الفرعية: يبحث عن المعلومات، ويصفّي المصادر، ويبني الروابط المنطقية. وإذا حصلتم في النهاية على نتيجة هراء، فمن شبه المستحيل تحديد المتسبب. هل كان البحث سيئًا؟ أم وقع خطأ في المنطق؟ أم أن النموذج «نسي» السياق في منتصف الطريق؟ يندمج AgentDoG في بنية عمل الوكيل نفسها، ويتتبّع كل مرحلة من «عملية تفكيره» وتفاعله مع الأدوات. وهذا ليس مجرد تسجيل للأحداث (logging)، بل تشخيص عميق يقارن نوايا النموذج بأفعاله الفعلية في الوقت الحقيقي.

راهن مطوّرو AgentDoG على كشف «الاختناقات». يحلّل النظام مسار تنفيذ المهمة ويُبرز اللحظات التي تنخفض فيها ثقة النموذج، أو التي يبدأ فيها بمناقضة خطواته السابقة. وهذا بالغ الأهمية للأنظمة متعددة الوكلاء، حيث ينبغي لعدة شبكات عصبية أن تنسّق أفعالها. ففي مثل هذه السيناريوهات، يفسد خطأ وكيل واحد عمل المجموعة كلها على نحو متسلسل متسارع. ويتيح «الطوق» ملاحظة السلوك المنحرف في الوقت المناسب وتصحيحه دون انتظار الفشل النهائي. وبذلك نحصل عمليًا على مستوى من التحكم يضاهي البرمجة التقليدية، لكن مطبّقًا على شبكات عصبية لا يمكن التنبؤ بسلوكها.

لماذا يهم ذلك الآن تحديدًا؟ لأن صناعة الذكاء الاصطناعي تنتقل من مرحلة «تأثير الإبهار» إلى مرحلة المقاييس التجارية الصارمة. لن يأتمن أي بنك أو شركة طبية عملياتهما على وكيل يعمل بمبدأ «ينجح أحيانًا، ويفشل أحيانًا أخرى». تحتاج الشركات إلى القدرة على التنبؤ وإمكانية التدقيق. وهذا ما يوفره AgentDoG: قاعدة أدلة توضح كيف اتُّخذ القرار. وهو ما يجعل وكلاء الذكاء الاصطناعي أقل شبهًا بالتحف السحرية وأقرب إلى البرمجيات المعتادة التي يمكن اختبارها وتصحيح أخطائها وتوسيع نطاقها دون خوف من هلوسات مفاجئة.

سيؤدي اعتماد أنظمة المراقبة هذه حتمًا إلى تحوّل مهنة «مهندس الأوامر» (prompt engineer) نهائيًا إلى شيء أكثر جدية. فبدلًا من البحث عن «الكلمات السحرية»، سيصمّم المطوّرون بنى معمارية ذات مقاييس تشخيصية واضحة. ويُعدّ AgentDoG مجرد أولى بشائر ثقافة جديدة في تطوير الأنظمة المستقلة. والآن، وقد أصبحت لدينا أدوات لمراقبة «أفكار» الآلات، سنتمكن أخيرًا من معرفة مدى ذكائها (أو غبائها) فعلًا في سيناريوهات العمل المحددة.

السؤال الأهم: هل ستكون شفافية وكلاء الذكاء الاصطناعي نهاية عصر «الصناديق السوداء»، أم سنكتشف ببساطة أن منطقها أكثر فوضوية من أن يخضع لتحكم كامل؟