MIT Technology Review: هل نحن مستعدون لمنح وكلاء الذكاء الاصطناعي سلطة حقيقية؟

أصدرت تحرير مراجعة MIT للتكنولوجيا كتاباً إلكترونياً مغلقاً برسالة استفزازية: هل نحن مستعدون لنقل السلطة الحقيقية إلى وكلاء الذكاء الاصطناعي — على المهام والبيانات والعمليات التجارية وفي نهاية المطاف على عواقب أفعالهم؟ جمعت المجموعة آراء الخبراء البارزين وأصبحت من أكثر المواد المُستشهد بها من قبل المنشور هذا العام.

الوكلاء لا يعودون ينتظرون الأوامر

لقد توقفت وكلاء الذكاء الاصطناعي عن كونها مفهوماً من تقارير المختبرات. أطلقت OpenAI و Anthropic و Google و Microsoft وعشرات الشركات الناشئة أنظمة تستخدم متصفحات الويب بشكل مستقل وتكتب وتشغل الأكواد وتدير الملفات وترسل رسائل البريد الإلكتروني وتتفاعل مع الخدمات الخارجية — دون تأكيد صريح لكل خطوة. لم يعد الوكيل ينتظر أمراً. يتلقى هدفاً ويتحرك نحوه باستقلالية ويتخذ قرارات وسيطة بنفسه. هذا التحول يغير طبيعة العلاقات البشرية مع البرمجيات ذاتها: نتوقف عن كوننا مشغلي واجهات ونصبح أشخاصاً يفوضون المسؤولية.

الأمثلة موجودة بالفعل في الإنتاج: يحجز Operator من OpenAI المطاعم ويملأ النماذج، يدير Claude Computer Use التطبيقات على سطح المكتب، ينفذ Google Gemini سلاسل المهام بشكل مستقل في Workspace. هذا ليس وضع العرض التوضيحي — الوكلاء يديرون العمليات الحقيقية في المنظمات الحقيقية.

ما يقوله الخبراء

هذا هو بالضبط الموضوع الذي استكشفته كتاب MIT Technology Review الإلكتروني، وضمت متخصصين رائدين في مجالات الأمان والأخلاقيات وتطوير الذكاء الاصطناعي. أحد الأطروحات الرئيسية التي تقتبسها المنشور:

"إذا استمررنا في الطريق الحالي، فإننا في الأساس نلعب لعبة الروليت

الروسية مع الإنسانية."

هذا ليس اقتباساً من رواية ديستوبيا — إنها موقف الباحثين الممارسين الذين يعملون يومياً مع الأنظمة الوكيلة. يحددون عدة فئات محددة من المخاطر:

• فقدان القابلية للتتبع: في سيناريوهات متعددة الوكلاء، من الصعب تحديد أي وكيل اتخذ أي قرار وسيط
• نقص الشفافية: عند تفويض المهام المعقدة، غالباً لا يفهم الإنسان لماذا اختار الوكيل هذا المسار بالذات
• أخطاء عالية الرهان — المعاملات المالية والتوصيات الطبية والمستندات القانونية
• حقن الأوامر: يمكن التلاعب بالوكلاء الذين يعملون مع البيانات الخارجية من خلال تلك البيانات ذاتها
• غياب المعايير: لا توجد متطلبات صناعية موحدة لأمان معمارية الوكلاء بعد

بين السرعة والحذر

تستجيب الشركات لهذه التحديات بطرق مختلفة. بعضها — في المقام الأول Anthropic — يراهن على آليات تحكم متعددة المستويات وقيود دستورية للنماذج ومبدأ المشاركة البشرية للقرارات الحرجة. يضحي اللاعبون الآخرون بالحذر من أجل سرعة الوصول إلى السوق: المنافسون لا ينتظرون، لم يكن هناك فشل عام كبير بعد — وهذا في حد ذاته موقف خطير.

المنظمون في الولايات المتحدة والاتحاد الأوروبي بدأوا للتو في تشكيل موقف بشأن الأنظمة الوكيلة. يغطي قانون الذكاء الاصطناعي الأوروبي جزئياً التطبيقات عالية المخاطر، لكن معمارية الوكلاء كفئة منفصلة لم تُنظم بعد بشكل صريح. في الوقت الذي يوضح فيه المشرعون المصطلحات، تعمل المنتجات بالفعل في الشركات الحقيقية وتدير العمليات الحقيقية — غالباً بدون سياسات واضحة للمسؤولية.

ما يعني هذا

نحن ندخل مرحلة حيث يكتسب وكلاء الذكاء الاصطناعي سلطة حقيقية قبل أن تضع المجتمع قواعد اللعبة، وقبل أن تطور الشركات معايير التنفيذ الآمن. الأسئلة التي يطرحها كتاب MIT Technology Review الإلكتروني ليست نقاشاً أكاديمياً. هذا برنامج تواجهه فرق المنتجات والخدمات القانونية والمديرون التنفيذيون الذين يتخذون قرارات الأتمتة بالفعل اليوم. والإجابة على السؤال "هل نحن مستعدون؟" تعتمد إلى حد كبير على مدى جدية تعامل الصناعة مع تحذيرات خبرائها الخاصين.