نيت سواريس في بودكاست Bloomberg: لماذا لا يمكن «مواءمة» الذكاء الاصطناعي

نشرت Bloomberg حوارًا مع نيت سواريس، رئيس Machine Intelligence Research Institute (MIRI). أصدر سواريس في عام 2025 مع إليزر يودكوفسكي كتاب «If Anyone Builds It, Everyone Dies». وتختصر فكرة الكتاب الرئيسية في عنوانه: إذا بنى أحدٌ ذكاءً اصطناعيًا فائقًا، فسيهلك الجميع. ويذكر إعلان البودكاست أنه بعد حادثة Hugging Face لم تعد الأحاديث عن سيناريوهات نهاية العالم هامشية، بل دخلت التيار الرئيسي. ولا توضح المادة ما الذي حدث بالضبط على المنصة، ولذلك لا يمكن تقدير حجم الحادثة هنا.

قلق قديم في سياق جديد

يعمل سواريس ومعهد MIRI على مشكلة أمان الذكاء الاصطناعي منذ ما قبل ChatGPT والنماذج اللغوية الكبيرة بكثير. كان موقفهم يُعدّ حينها غريبًا في العادة، أما اليوم فقد فرضت الأخبار العودة إليه. وقد بُني البودكاست كمحاولة لتفسير لماذا يرى شخص انشغل بهذا المجال لعقود أن الخطر ليس افتراضيًا، بل نتيجة منطقية.

يدور الحوار حول سؤالين: لماذا يستحيل، بحسب سواريس، «مواءمة» الذكاء الاصطناعي الفائق (أي ضمان تطابق أهدافه مع الأهداف البشرية بصورة موثوقة)، وكيف ستخرج هذه التقنية عن السيطرة مع نمو قدراتها.

أبرز أطروحات الحوار

يمكن من الإعلان ومن الكتاب الذي يستند إليه استخلاص عدة مواقف:

• يرى المؤلفان أن فناء البشرية نتيجة حتمية لبناء ذكاء فائق، لا مجرد أحد الاحتمالات.
• مواءمة أهداف نظام فائق الذكاء مع الأهداف البشرية مهمة شبه مستحيلة الحل، بحسب تقديرهما.
• يتزايد الخطر مع تزايد القدرات: كلما كان النظام أكثر قدرة، قلّت فرص إيقافه عندما يسوء شيء ما.
• يترأس سواريس معهد MIRI، وهو منظمة تعمل على هذه المسألة منذ ما قبل العصر التجاري للنماذج الكبيرة.
• الصيغة: حلقة واحدة من Bloomberg Tech تتضمن شرحًا مفصلًا، وليست تعليقًا موجزًا.

أين يضعف الطرح؟

يعترض المتشككون في الصناعة على هذه السيناريوهات من عدة زوايا. فهم يشيرون إلى أنه لا توجد قاعدة تجريبية لفكرة «الفناء الحتمي»: لم يُظهر أي نظام قائم القدرة على السيطرة على العالم. كما يبقى موضع جدل كل من موعد ظهور الذكاء الفائق، وإمكانية بنائه أصلًا على البنى المعمارية الحالية. ويردّ مؤيدو سواريس بأن انتظار الأدلة لا معنى له، لأن الوقت سيكون قد فات لتصحيح أي شيء بعد ظهور أول مثال حقيقي.

لا يتضمن الإعلان أرقامًا محددة ولا توقعات زمنية ولا تفاصيل عن آلية «الإفلات»، لذا يتعين الاستماع إلى الحلقة نفسها للاطلاع على الحجة كاملة. كما أنه لا يتضح من النص كيف يربط سواريس حالة Hugging Face باستنتاجاته.

ماذا يعني ذلك عمليًا

بالنسبة إلى الفرق التي تبني منتجات على النماذج، فإن أنفع استنتاج أكثر تواضعًا من الطرح القيامي. فقد خرج النقاش حول المخاطر من نطاقه الأكاديمي الضيق، وسيسأل المنظمون والعملاء والمستثمرون بوتيرة متزايدة عن كيفية ضبط الوصول، وتقييم القدرات الخطرة، وإجراءات إيقاف الأنظمة. وعلى من يُصدر نماذج مفتوحة أو يستضيفها على منصات عامة أن يضع مسبقًا سياسة للاستجابة للحوادث، بدل كتابتها بعد وقوعها.

أما القارئ الذي يحاول تكوين فهم للموضوع، فالنصيحة الأساسية له: الاستماع إلى الطرفين. فموقف سواريس ويودكوفسكي يستحق أن يُعرف حتى لو لم يتفق معه المرء، لأنه هو الذي يرسم الإطار الذي تُناقش داخله حاليًا أشدّ المقترحات صرامة لتنظيم الذكاء الاصطناعي. ويمكن العثور على النسخة الكاملة من الحلقة على Bloomberg.