توفر Google DeepMind التمويل لبحث حول مخاطر تفاعل ملايين وكلاء الذكاء الاصطناعي

تمول Google DeepMind أبحاثًا حول مخاطر تفاعل ملايين وكلاء الذكاء الاصطناعي مع بعضهم البعض

تمول Google DeepMind أبحاثًا جديدة حول المخاطر التي تنشأ عندما يتفاعل ملايين وكلاء الذكاء الاصطناعي المختلفة مع بعضهم البعض عبر الإنترنت. وفقًا لـ MIT Technology Review، نقلاً عن روهيت شاه، الذي يرأس اتجاه أبحاث سلامة وتوافق الذكاء الاصطناعي العام (AGI) في الشركة، فإن الإطلاق الضخم في السوق للوكلاء القادرين على تنفيذ المهام بدون إشراف بشري مستمر واستقبال التعليمات من وكلاء آخرين ينشئ فئة جديدة تمامًا من المخاطر التي لم تفهمها الصناعة بعد بشكل كامل.

من يقف وراء الأبحاث

Google DeepMind هي قسم أبحاث Google المسؤول عن تطوير نماذج متقدمة في عائلة Gemini وإجراء الأبحاث الأساسية في مجال سلامة الذكاء الاصطناعي. يشرف روهيت شاه على الاتجاه المركز على السلوك القابل للتنبؤ والقابل للتحكم للأنظمة التي تقترب من مستوى الذكاء الاصطناعي العام (AGI). تنظر فريقه تقليديًا ليس إلى نموذج واحد، بل إلى التأثيرات النظامية — ما يحدث عندما تعمل برامج ذكاء اصطناعي مستقلة متعددة في نفس البيئة الرقمية في نفس الوقت.

الحقائق الرئيسية حول المبادرة:

• مبادر الأبحاث — Google DeepMind، قسم الذكاء الاصطناعي في Google
• رئيس اتجاه الأبحاث — روهيت شاه، مدير أبحاث سلامة وتوافق AGI
• موضوع الأبحاث — مخاطر التفاعل بين ملايين الوكلاء المستقلين المختلفين عبر الإنترنت
• التهديد الرئيسي — وكلاء يعملون بدون إشراف بشري ويتلقون تعليمات من وكلاء آخرين
• المصدر — MIT Technology Review

ما الذي يجعل النشر الضخم للوكلاء خطيرًا

اليوم، تركز معظم النقاشات حول سلامة الذكاء الاصطناعي على سلوك نموذج واحد — مدى امتثاله وصدقه وقابلية التنبؤ به في الحوار مع المستخدمين. لكن اقتصاد الوكلاء، الذي تبنيه الشركات الكبرى بنشاط طوال عام 2026، يعني سيناريو مختلف: آلاف وملايين البرامج المستقلة تحجز التذاكر في نفس الوقت، وتجري المفاوضات، وتتداول في البورصات أو تعتدل محتوى، متفاعلة مع بعضها البعض بدون مشاركة بشرية مباشرة. في مثل هذه البيئة، تفقد آليات الحماية الكلاسيكية المصممة للاتصال "الإنسان-النموذج" معناها: يمكن لوكيل أن يتلقى تعليمات ضارة ليس من مشغله بل من وكيل آخر يتظاهر بأنه مشارك شرعي.

هذا ينشئ مخاطر ذات طبيعة جديدة تمامًا: فشل متتالي، عندما ينتشر خطأ وكيل واحد مثل انهيار جليدي إلى الأنظمة المرتبطة به؛ تواطؤ بين وكلاء يعملون لمصالح أطراف مختلفة، أحيانًا متعارضة؛ وحقن تعليمات مقنعة كحركة شبكة عادية بين البرامج بدلاً من رسائل من البشر. تم رفع مخاوف مماثلة في السابق بشأن أنظمة التداول الآلي، حيث أدى السلوك المنسق أو المتزامن ببساطة لخوارزميات مستقلة متعددة بالفعل إلى تقلبات سوق حادة يصعب تفسيرها. وكلاء الذكاء الاصطناعي يعملون عبر الإنترنت بأكمله قادرون بالفعل على إعادة إنتاج نفس التأثير في عدد أكبر بكثير من المجالات — من التجارة الإلكترونية إلى خدمة العملاء، حيث لا يوجد بشر بشكل متزايد بل برامج مستقلة تعمل باسم الشركات والمستخدمين.

إن هذه السيناريوهات بالضبط، الحكم بوصف MIT Technology Review، هي التي تركز عليها الأبحاث التي تمولها DeepMind.

ما الذي يتغير بالنسبة لمطوري أنظمة الوكلاء

بالنسبة للشركات التي تبني بالفعل منتجات على وكلاء مستقلين — من الروبوتات المالية إلى المساعدين المؤسسيين — فإن الإشارة من أحد قادة الصناعة تعني أن أمان نظام متعدد الوكلاء ينتقل من النظرية إلى أولويات التطوير العملية. إذا اعتبرت DeepMind ضروريًا تخصيص موارد محددة لدراسة مخاطر التفاعل بين الوكلاء بدلاً من محاذاة النماذج الفردية فقط، فهذا يشير بشكل غير مباشر إلى حيث يتوقع اللاعبون الرئيسيون والمنظمون الموجة التالية من الحوادث.

الخلاصة العملية للمهندسين هي بناء حماية ضد المدخلات غير الموثوقة ليس فقط عند حد "المستخدم-الوكيل" بل أيضًا عند حد "الوكيل-الوكيل": التحقق من مصدر التعليمات، تحديد سلطة الوكيل عند التفاعل مع بعضهم البعض، وتسجيل الاتصالات بين الوكلاء بنفس الحرص مثل سجلات الحوار مع المستخدمين. تصبح مناقشة معايير تحديد هوية الوكلاء وبروتوكولات تبادل البيانات الآمنة بين الوكلاء وآليات تتبع المسؤولية تدريجيًا جزءًا من جدول أعمال صناعي أوسع — وتبدو أبحاث DeepMind مخصصة لسد جزء على الأقل من هذه الفجوة قبل أن تتسع أنظمة الوكلاء إلى ملايين المشاركين الذين يعملون بشكل متزامن.