MIT Technology Review: هل نحن مستعدون لمنح وكلاء الذكاء الاصطناعي صلاحيات حقيقية؟

أصدرت هيئة تحرير MIT Technology Review كتابًا إلكترونيًا مغلقًا يطرح سؤالًا استفزازيًا: هل نحن مستعدون لمنح وكلاء الذكاء الاصطناعي سلطة حقيقية — على المهام والبيانات وعمليات الأعمال، وفي نهاية المطاف على عواقب أفعالهم؟ جمع الإصدار آراء خبراء بارزين، وأصبح من أكثر مواد المجلة اقتباسًا هذا العام.

الوكلاء لم يعودوا ينتظرون الأوامر

لم يعد وكلاء الذكاء الاصطناعي مجرد مفهوم في تقارير المختبرات. فقد أطلقت OpenAI وAnthropic وGoogle وMicrosoft وعشرات الشركات الناشئة أنظمة تستخدم المتصفح بصورة مستقلة، وتكتب الشيفرة البرمجية وتشغّلها، وتدير الملفات، وترسل الرسائل الإلكترونية، وتتفاعل مع خدمات خارجية — دون تأكيد صريح لكل خطوة. فالوكيل لم يعد ينتظر الأوامر. إنه يتلقى هدفًا ويتحرك نحوه، ويتخذ القرارات الوسيطة بنفسه.

ويغيّر هذا التحول طبيعة علاقة الإنسان بالبرمجيات: فنحن لم نعد مشغّلين لواجهة، بل أصبحنا أشخاصًا يفوّضون المسؤولية.

وهناك أمثلة تعمل بالفعل في بيئة الإنتاج (production): فـ Operator من OpenAI يحجز المطاعم ويملأ النماذج، وClaude Computer Use يدير التطبيقات على سطح المكتب، وGoogle Gemini ينفّذ سلاسل مهام بصورة مستقلة داخل Workspace. وهذا ليس وضع عرض تجريبي — فالوكلاء يديرون عمليات حقيقية في مؤسسات حقيقية.

ماذا يقول الخبراء

يتناول الكتاب الإلكتروني من MIT Technology Review هذا الموضوع تحديدًا، بمشاركة متخصصين بارزين في أمن الذكاء الاصطناعي وأخلاقياته وتطويره. ومن أبرز الأطروحات التي تنقلها المجلة:

«إذا واصلنا السير في المسار الحالي، فإننا في جوهر الأمر نلعب الروليت

الروسية مع البشرية».

وهذه ليست عبارة من رواية ديستوبية، بل موقف باحثين ممارسين يعملون يوميًا مع الأنظمة الوكيلية. ويحددون عدة فئات محددة من المخاطر:

• فقدان القدرة على التتبّع: في السيناريوهات متعددة الوكلاء يصعب تحديد من اتخذ أي قرار وسيط
• انعدام الشفافية: عند تفويض مهام معقدة، كثيرًا ما لا يفهم الإنسان سبب اختيار الوكيل لهذا المسار تحديدًا
• أخطاء عالية المخاطر — المعاملات المالية والتوصيات الطبية والوثائق القانونية
• Prompt injection: يمكن التلاعب بالوكلاء الذين يعملون مع بيانات خارجية عبر هذه البيانات نفسها
• غياب المعايير: لا توجد حتى الآن متطلبات صناعية موحدة لأمن البنى الوكيلية

بين السرعة والحذر

تتعامل الشركات مع هذه التحديات بطرق مختلفة. فبعضها — وفي مقدمتها Anthropic — يراهن على آليات رقابة متعددة المستويات، وقيود دستورية للنماذج، ومبدأ human-in-the-loop للقرارات الحرجة. أما لاعبون آخرون فيضحّون بالحذر مقابل سرعة الوصول إلى السوق: فالمنافسون لا ينتظرون، ولم يقع حتى الآن أول إخفاق علني كبير — وهذا بحد ذاته وضع خطير.

ولا تزال الجهات التنظيمية في الولايات المتحدة والاتحاد الأوروبي في بداية تشكيل موقفها من الأنظمة الوكيلية. ويغطي قانون الذكاء الاصطناعي الأوروبي (AI Act) جزئيًا التطبيقات عالية المخاطر، لكنه لا ينظّم البنى الوكيلية صراحةً بوصفها فئة مستقلة حتى الآن. وبينما يوضّح المشرّعون المصطلحات، تعمل المنتجات فعلًا داخل شركات حقيقية وتدير عمليات حقيقية — غالبًا دون سياسة واضحة للمساءلة.

ماذا يعني ذلك

نحن ندخل مرحلة يحصل فيها وكلاء الذكاء الاصطناعي على صلاحيات حقيقية قبل أن يضع المجتمع قواعد اللعبة، وقبل أن تضع الشركات معايير للتطبيق الآمن. والأسئلة التي تطرحها MIT Technology Review في الكتاب الإلكتروني ليست نقاشًا أكاديميًا. إنها أجندة تواجهها اليوم فرق المنتجات والإدارات القانونية والمديرون التنفيذيون الذين يتخذون قرارات الأتمتة. والإجابة عن سؤال «هل نحن مستعدون؟» تعتمد إلى حد بعيد على مدى جدية تعامل القطاع مع تحذيرات خبرائه أنفسهم.