بنجيو: الذكاء الاصطناعي فائق الذكاء قد يهدد البشرية خلال عقد

جدّد يوشوا بنجيو، الحائز على جائزة تورينغ وأحد مبتكري التعلم العميق، تحذيره من الخطر الوجودي. فقد تشكل الآلات فائقة الذكاء تهديدًا للبشرية خلال العقد المقبل.

من هو بنجيو ولماذا يُعدّ صوته مهمًا

يوشوا بنجيو حائز على جائزة تورينغ المرموقة، التي يُطلق عليها كثيرًا اسم «نوبل في علوم الحاسوب». وقد كان إلى جانب يان لوكون وجيفري هينتون في طليعة من أسسوا التعلم العميق، وهو النهج الذي أحدث ثورة في مجال الذكاء الاصطناعي وجعل النماذج اللغوية الكبيرة الحديثة ممكنة.

وظل بنجيو متفائلًا بشأن الذكاء الاصطناعي طوال معظم مسيرته. لكنه في عام 2023 أعاد النظر في موقفه جذريًا، وصرّح بأنه لم يعد يعتقد أن مخاطر الذكاء الاصطناعي مبالغ فيها. ومنذ ذلك الحين يشارك بنشاط في النقاشات الدائرة حول المخاطر الوجودية وأمان تطوير الذكاء الاصطناعي.

جوهر التحذير من الأنظمة فائقة الذكاء

يقلق بنجيو من الأنظمة التي توصف بأنها فائقة الذكاء، أي أنظمة ذكاء اصطناعي تتفوق على الإنسان لا في مجال ضيق واحد، بل في جميع الجوانب الفكرية في آن واحد. وبحسب تقديره، قد تُطوَّر هذه الأنظمة خلال العقد الحالي، وفي ظل ظروف معينة ستمثل تهديدًا وجوديًا للبشرية.

ويشدد بنجيو على أن المشكلة الجوهرية لا تكمن في سوء نية المطورين، بل في الصعوبة الجوهرية لإدارة نظام قوي لا يفهم تمامًا النوايا بعيدة المدى للبشرية (أو لا يلتزم بها التزامًا كاملًا). فقد يُحسّن النظام نفسه بطريقة تبدو له منطقية، لكنها لا تتوافق إطلاقًا مع قيمنا.

إشارات مقلقة نراها اليوم

التطور يجري بسرعة بالفعل:

• تقدم أسّي في توسيع نطاق الشبكات العصبية، إذ تزداد النماذج قوة عامًا بعد عام
• تحسّن قدرات النماذج الحديثة على التخطيط والتصرف باستقلالية
• انخفاض حاد في الكلفة الطاقية لتدريب النماذج الكبيرة
• تركّز القدرات الحاسوبية لدى عدد قليل من الشركات الرائدة
• ظهور وكلاء قادرين على تنفيذ مهام متعددة الخطوات بأقل تدخل بشري

ويرى بنجيو أن هذه الاتجاهات تشير إلى أننا أقرب إلى النقطة الحرجة مما يدرك كثيرون.

ما الذي يجب فعله الآن

يرى بنجيو أنه ينبغي إعادة توجيه تركيز البحث من تحقيق أقصى أداء إلى تحقيق أقصى أمان. ويعني ذلك:

• الاستثمار في البحث الأساسي في قابلية تفسير الذكاء الاصطناعي
• تطوير أساليب للتحكم الموثوق بالأنظمة المعقدة
• إنشاء آليات تضمن توافق الذكاء الاصطناعي مع القيم الإنسانية
• تعاون دولي على أساس طوعي، ثم ربما على مستوى التنظيم

ماذا يعني ذلك بالنسبة لنا

صوت بنجيو من أكثر الأصوات حجّية في النقاش حول المخاطر الوجودية للذكاء الاصطناعي. ويذكّرنا موقفه بأن إطلاق العنان لإمكانات الذكاء الاصطناعي دون استعداد كافٍ لمخاطره قد يتحول إلى خطأ لا رجعة فيه.

السؤال ليس ما إذا كنا سنتمكن من بناء ذكاء اصطناعي فائق الذكاء. السؤال هو: هل سنكون مستعدين لذلك؟