بنغيو: قد يشكل AI فائق الذكاء تهديدًا للبشرية في غضون عقد

يوشواع بنجيو، الحائز على جائزة تورينج وأحد مبتكري التعلم العميق، حذر مرة أخرى من مخاطر الوجود. قد تشكل الآلات فائقة الذكاء تهديداً للبشرية في العقد القادم.

من هو بنجيو ولماذا يعتبر صوته مهماً

يوشواع بنجيو هو حائز جائزة تورينج المرموقة، والتي يطلق عليها غالباً "جائزة نوبل في علوم الحاسوب". وقف جنباً إلى جنب مع يان ليكون ويوشواع هينتون في أصول التعلم العميق — وهو نهج أدى إلى ثورة في مجال الذكاء الاصطناعي وجعل وجود نماذج اللغة الضخمة الحديثة ممكناً. طوال معظم حياته المهنية، كان بنجيو متفائلاً بشأن الذكاء الاصطناعي. لكن في عام 2023، راجع موقفه جذرياً، معلناً أنه لم يعد يعتقد أن مخاطر الذكاء الاصطناعي مبالغ فيها. منذ ذلك الحين، شارك بنشاط في النقاشات حول الأخطار الوجودية وسلامة تطوير الذكاء الاصطناعي.

جوهر التحذير من الأنظمة فائقة الذكاء

يشعر بنجيو بالقلق بشأن ما يسمى الأنظمة فائقة الذكاء — الذكاء الاصطناعي الذي يتفوق على الإنسان ليس في مجال واحد ضيق، بل في جميع جوانب الذكاء في نفس الوقت. بناءً على تقييمه، قد يتم تطوير هذه الأنظمة خلال العقد الحالي، وفي ظروف معينة ستمثل تهديداً وجودياً للبشرية. المشكلة الأساسية، كما يؤكد بنجيو، لا تكمن في النوايا الشريرة للمبتكرين، بل في الصعوبة الأساسية في التحكم في نظام قوي لا يفهم تماماً (أو لا يتبع تماماً) النوايا طويلة الأمد للبشرية. قد يقوم نظام بتحسين نفسه بطريقة تبدو منطقية له، لكنها لا تتوافق تماماً مع قيمنا.

الإشارات المقلقة التي نراها اليوم

التطور يحدث بالفعل بسرعة:

• التقدم الأسي في توسع شبكات الأعصاب — تصبح النماذج أكثر قوة كل عام
• تحسن القدرات الحالية للنماذج الحديثة على التخطيط والعمل المستقل
• انخفاض حاد في تكاليف الطاقة اللازمة لتدريب النماذج الضخمة
• تركيز الموارد الحسابية في أيدي عدد قليل من الشركات الرائدة
• ظهور وكلاء يمكنهم تنفيذ مهام متعددة الخطوات بتدخل بشري ضئيل

يعتقد بنجيو أن هذه الاتجاهات تشير إلى أننا أقرب إلى نقطة حرجة مما يدركه الكثيرون.

ما الذي يجب فعله الآن

برأي بنجيو، يجب إعادة توجيه التركيز البحثي من تحقيق الحد الأقصى من الأداء إلى تحقيق الحد الأقصى من السلامة. وهذا يعني:

• الاستثمار في البحث الأساسي حول قابلية تفسير الذكاء الاصطناعي
• تطوير طرق للتحكم الموثوق بالأنظمة المعقدة
• إنشاء آليات تضمن توافق الذكاء الاصطناعي مع القيم الإنسانية
• التعاون الدولي على أساس طوعي، ثم ربما على المستوى التنظيمي

ماذا يعني هذا لنا

صوت بنجيو هو أحد أكثر الأصوات سلطة في النقاش حول المخاطر الوجودية للذكاء الاصطناعي. موقفه يذكرنا بأن إطلاق العنان لإمكانات الذكاء الاصطناعي دون الاستعداد الكافي لمخاطره قد يكون خطأ لا رجعة فيه. السؤال ليس ما إذا كان يمكننا إنشاء ذكاء اصطناعي فائق الذكاء. السؤال هو ما إذا كنا سنكون مستعدين لذلك.