انهيار وكلاء الذكاء الاصطناعي: الرياضيات تثبت أنهم لن يصبحوا موثوقين أبدًا

هل تذكرون كيف كفّ الجميع فجأةً في العام الماضي عن الحديث عن روبوتات الدردشة وبدؤوا يحلمون بـ«الوكلاء»؟ وُعدنا بأن الذكاء الاصطناعي سيتولى قريبًا حجز التذاكر بنفسه، وكتابة الشيفرات نيابةً عن أقسام كاملة، وإدارة سلاسل التوريد، بينما نحتسي نحن العصائر. تبيّن أن للرياضيات رأيًا آخر في هذا الأمر، وهو رأي مزعج إلى حدٍّ ما لمن سارع إلى إعادة كتابة خطط أعماله على أساس «الاستقلالية الكاملة».

نشرت مجموعة من الباحثين دراسة تصيب الصناعة في أشدّ مواضع ضعفها: استحالة رياضية لأن يعمل وكلاء الذكاء الاصطناعي المستقلون بشكل موثوق. المشكلة ليست في أن النماذج «غبية» أو تفتقر إلى بيانات التدريب من Reddit. المشكلة تكمن في بنية المهام المتسلسلة نفسها. إذا طلبتَ من الذكاء الاصطناعي إنجاز أمر في خطوة واحدة، فاحتمال النجاح مرتفع. لكن بمجرد أن تبني سلسلة من عشرة إجراءات، يبدأ «إرهاب» نظرية الاحتمالات بلا هوادة.

تخيّلوا أن كل خطوة من خطوات الوكيل تُنفَّذ بدقة 95%. يبدو الأمر جيدًا، أليس كذلك؟ في عالم البشر هذا مستوى الطالب المتفوق. لكن في سلسلة من عشر خطوات ينخفض احتمال النجاح الإجمالي إلى ما دون 60%. وماذا لو كانت الخطوات مئة؟ فرصة أن يصل الوكيل إلى النهاية دون أن يحوّل مشروعكم إلى نفايات رقمية تقترب من الصفر. يُطلق على هذه الظاهرة «التراكم الكارثي للأخطاء»، ويبدو أنها لا تُعالَج بمجرد توسيع نافذة السياق أو إضافة دفعة جديدة من وحدات H100.

تجد الصناعة نفسها اليوم في وضع غريب للغاية. فمن جهة، هناك رأس المال المغامر الذي يضخ المليارات في شركات ناشئة مثل Cognition التي تعد بـ«أول مهندس ذكاء اصطناعي في العالم». ومن جهة أخرى، هناك رياضيات جافة تقول: «يا جماعة، هذا لن يعمل بالشكل الذي ترسمونه في العروض التقديمية». نحن نحاول بناء ناطحة سحاب على مستنقع، آملين أنه إذا جمّلنا الواجهة فسيتصلب الأساس من تلقاء نفسه.

والمفارقة الكبرى أن الشركات تواصل بيع «الاستقلالية» بوصفها الميزة الرئيسية. أما في الواقع فنحصل على أنظمة تتطلب مراقبة لصيقة. هذا ليس تحررًا من الأعمال الروتينية، بل شكل جديد من الرقابة، يتحول فيه الإنسان إلى مدقق دائم يلاحق خوارزمية شبه مجنونة. فإذا أخطأ الوكيل في 5% من الحالات، لكنه يفعل ذلك بصمت ومع ثقة مطلقة بصحة موقفه، يصبح أخطر من أكسل الموظفين وأقلهم كفاءة. فخطأ الإنسان يمكن التنبؤ به، أما خطأ النموذج الإحصائي فلا.

كنا في السابق نُبهَر بقدرة الشبكة العصبية على كتابة الشعر أو شرح فيزياء الكم. كان ذلك ممتعًا، لكنه شبه عديم الفائدة للإنتاج الفعلي. ثم جاء عصر الوكلاء. كانت الفكرة بسيطة: تزويد النموذج بأدوات — متصفح وطرفية وصلاحية الوصول إلى API — وتركه يتصرف. حوّل ذلك الذكاء الاصطناعي من «ببغاء ذكي» إلى «متدرّب رقمي». لكن تبيّن أن هذا المتدرّب يعاني شكلًا حادًّا من السهو المتفاقم، مدمجًا فيه على مستوى المعادلات.

ماذا يعني هذا لنا في المدى القريب؟ على الأرجح، يتأجل عصر «اضغط الزر وستحصل على النتيجة» إلى أجل غير مسمى. سيتعين علينا إعادة النظر في هندسة الذكاء الاصطناعي: الانتقال من الاستقلالية الكاملة إلى وحدات خاضعة لرقابة صارمة، يجري فيها التحقق من كل خطوة لا بواسطة ذكاء اصطناعي آخر، بل عبر طرق رسمية أو بواسطة إنسان حي. لا يمكن خداع الرياضيات بمقاطع العرض اللامعة على X (تويتر سابقًا). فالطريق إلى ذكاء حقيقي قادر على أفعال موثوقة يمر عبر فهم العلاقات السببية، لا عبر مجرد تخمين الرمز المميّز (token) التالي.

الخلاصة: وكلاء الذكاء الاصطناعي بصيغتهم الحالية فخ إحصائي. وما لم نحلّ مشكلة تراكم الأخطاء، ستبقى «الاستقلالية» مجرد لعبة ترفيهية باهظة وغير موثوقة للمستثمرين. هل ننتظر اللحظة التي يصطدم فيها الضجيج الإعلامي بالواقع نهائيًا؟