أزمة الثقة: لماذا تتعثر أنظمة الذكاء الاصطناعي متعددة الوكلاء في التطبيق العملي

أزمة الثقة: لماذا تتعثر أنظمة الذكاء الاصطناعي متعددة الوكلاء في التطبيق العملي

بلغت نماذج اللغة الكبيرة (LLM) والأنظمة متعددة الوكلاء المبنية عليها مستوى لافتًا من التطور. فهي لا تكتفي بتنفيذ مهام منفردة، بل تستطيع بناء سلاسل معقدة من الإجراءات تحاكي العمل البشري: من كتابة الشيفرة البرمجية وإنشاء الاختبارات إلى تنسيق عمليات تجارية متكاملة وإعداد التقارير. وفي مرحلة العرض التجريبي، حيث يُجهَّز كل شيء بعناية، تعمل هذه الأنظمة في كثير من الأحيان بلا أي عيب، ما يخلق وهم تحوّل وشيك وجذري في السوق. غير أن الواقع، كما يحدث غالبًا، أكثر تعقيدًا بكثير: فعند التوسع في التشغيل، أو تكرار التشغيل مرات عديدة، أو مواجهة بيانات إدخال غير متوقعة، تُظهر هذه الأنظمة عدم استقرار مقلقًا، فتنتج أخطاء منطقية وتقارير كاذبة عن النجاح.

يمكن وصف المرحلة الحالية من تطور الذكاء الاصطناعي بأنها فترة نمو سريع في الإمكانات المحتملة، يقابله اتساع كبير في الفجوة بين هذه الإمكانات وقابلية التنبؤ بالسلوك. نحن أمام ظاهرة مفادها أن وكلاء LLM باتوا قادرين على «إنجاز العمل»، لكنهم لم يصبحوا بعدُ موثوقين ويمكن التنبؤ بسلوكهم. ويقدّم عرض لنظام مؤلف من عدة وكلاء متخصصين مثالًا واضحًا على ذلك.

يكتب أحد الوكلاء الشيفرة، ويولّد الثاني اختبارات للتحقق منها، ويجري الثالث المراجعة، ويجمع الرابع المخرجات النهائية ويعدّ التقرير، بينما يتولى الخامس، في دور المشغّل، تنسيق العملية بأكملها. قد تثير عمليات التشغيل الأولى لهذا النظام حالة من النشوة: يبدو أن عصرًا جديدًا على وشك البدء، تتولى فيه الآلات الحصة الكبرى من العمل الروتيني، بل والإبداعي أيضًا. لكن الوضع قد يتغير جذريًا منذ التشغيل الثالث أو الرابع.

فقد يعلن الوكيل المسؤول عن إصلاح الأخطاء بثقة تامة: «تم حل المشكلة»، بينما هو في الواقع إما لم يفهم جوهر الخطأ، أو أنشأ مشكلة جديدة أكثر تعقيدًا، أو تجاهلها ببساطة. وفي الوقت نفسه، قد يقدّم وكيل آخر نتيجة لا صلة لها بالمطلوب، أو يبلغ زورًا عن إتمام جزئه من المهمة بنجاح.

يُفسَّر هذا «الانهيار» في الأنظمة متعددة الوكلاء عند التطبيق العملي بعدة عوامل. أولًا، تعقيد التفاعل بين الوكلاء. فكل وكيل، بعد تدريبه على مجموعة بيانات محددة وتحسينه لمهمة بعينها، قد يفسّر تعليمات وكيل آخر أو نتائج عمله بطريقته الخاصة.

وقد يؤدي عدم الاتساق في فهم السياق أو المصطلحات أو صيغة المخرجات المتوقعة إلى سلسلة متتالية من الأخطاء. ثانيًا، مشكلة «الهلوسة» وعدم موثوقية LLM. فرغم التقدم المحرز، لا تزال نماذج اللغة تميل إلى توليد معلومات تبدو مقنعة لكنها خاطئة من حيث الوقائع.

وفي نظام متعدد الوكلاء يعتمد فيه وكيل على مخرجات وكيل آخر، قد تنتشر هذه «الهلوسات» بسرعة وتتفاقم. ثالثًا، ضعف المتانة أمام تنوع بيانات الإدخال والسيناريوهات غير المتوقعة. فالعروض التجريبية تُجرى عادة في بيئة خاضعة للتحكم وببيانات مُعدّة مسبقًا.

أما في الظروف الواقعية فيواجه النظام تنوعًا لا حدود له من الطلبات والالتباسات والأخطاء، وقد لا يكون مهيأً لها.

وتترتب على أزمة الثقة هذه عواقب جسيمة على صناعة الذكاء الاصطناعي وقطاع الأعمال. فما دامت الأنظمة متعددة الوكلاء لم تُظهر قدرًا كافيًا من الموثوقية وقابلية التنبؤ، سيظل اعتمادها في العمليات التجارية الحيوية محفوفًا بمخاطر عالية. وأي نظام يتوقف عليه اتخاذ قرارات مهمة، أو إدارة الإنتاج، أو معالجة بيانات سرية، يجب أن يتمتع بمستوى مضمون من الدقة وعدم التعطل. أما الأنظمة متعددة الوكلاء الحالية، رغم إمكاناتها اللافتة، فلا تستطيع حتى الآن توفير هذا الضمان دون رقابة بشرية صارمة ومستمرة وعمليات تحقق. وهذا يعني أننا نشهد حاليًا أتمتة جزئية فقط، تتطلب جهودًا كبيرة في المراقبة والتصحيح، لا أتمتة كاملة.

وخلاصة القول إن المرحلة الراهنة من تطور أنظمة الذكاء الاصطناعي متعددة الوكلاء هي فترة من التجريب النشط والبحث. فالنجاحات في العروض التجريبية ملهمة، لكن الممارسة الواقعية تكشف مشكلات جوهرية تتعلق بالموثوقية وقابلية التنبؤ والمتانة. وهذا لا يستدعي اليأس، بل هو مرحلة طبيعية في تطور أي تقنية معقدة. ومن المهم الإقرار بهذه القيود، ومواصلة الأبحاث الرامية إلى رفع قابلية التنبؤ بسلوك الوكلاء وتحمّلهم للأعطال، والتعامل مع إدخال هذه الأنظمة في العمليات التجارية الفعلية بالحذر الواجب، مع إدراك أن أمامها طريقًا طويلًا قبل بلوغ الاستقلالية الكاملة والثقة غير المشروطة.