داريو أمودي والنهاية: لماذا يخاف مؤسس Claude من الذكاء الاصطناعي الخاص به

تخيل أنك تبني أسرع سيارة سباق في العالم، لكن في كل مؤتمر صحفي تصر على أنها ستصطدم على الأرجح بجدار وتقتل جميع المتفرجين في المدرجات. هذا هو بالأساس شكل تصرفات داريو أمودي، الرئيس التنفيذي لشركة Anthropic، الآن. الرجل الذي أعطانا Claude — ربما أكثر شبكة عصبية إنسانية وأخلاقية في السوق — قد انتقل فجأة من تفاؤل حذر إلى خطاب بروح أنبياء نهاية العالم. إعلانه الأخير بأن التكنولوجيا التي ينشئها قد تحرق حرفياً الحضارة الإنسانية يجعلنا نتساءل: هل نحن فعلاً على حافة النهاية، أم أن هذه استراتيجية تسويقية غريبة جداً؟

لفهم نطاق الدراما، نحتاج إلى تذكر كيف نشأت Anthropic. مجموعة من المديرين التنفيذيين والباحثين البارزين تركوا OpenAI تحديداً لأنهم اعتبروا نهج سام ألتمان تجاه الأمان متهوراً وتجارياً جداً. أرادوا بناء ذكاء اصطناعي دستوري يمتلك بوصلة أخلاقية داخلية مدمجة في معمارية النموذج نفسه. والآن، عندما تبدأ نماذجهم في تجاوز GPT-4 في العديد من المؤشرات الرئيسية، يقول مؤسس الشركة إن الإنسانية يجب أن تستيقظ. هذا لا يبدو وكأنه تحليل جاف، بل كأنه صرخة روح شخص نظر خلف الستار عن الواقع ورأى شيئاً مخيفاً هناك.

أمودي يتحدث عن المخاطر منذ أكثر من سنة، لكن درجة الخطاب ارتفعت بوضوح. عندما يناقش قائد أحد أكثر مختبرات الذكاء الاصطناعي تأثيراً في العالم تدمير أسس المجتمع، فهذا لم يعد أحلام محبي التكنولوجيا على المنتديات. هذه هي موقف شخص يتحكم بمليارات الدولارات من Google و Amazon. في رأيه، تنمو قوة النماذج بشكل أسي، ونحن نفشل بشكل كارثي في إنشاء آليات التحكم. نحن نعلم الآلات الفكر، لكننا لا نزال لا نفهم تماماً كيف تفعل ذلك بالضبط، وبالتأكيد لا نعرف كيفية الضغط على الفرامل عندما تخرج العملية عن السيطرة.

هذا يثير سؤالاً منطقياً: إذا كان كل شيء سيئاً جداً، لماذا لا نتوقف ببساطة عن بناء هذه النماذج؟ لكن في عالم أعمال التكنولوجيا الكبرى، الأمور لا تعمل بهذه الطريقة. إذا توقفت Anthropic، ستسرع OpenAI و Google فقط. هذا معضلة السجين الكلاسيكية على مستوى كوكبي. يجد أمودي نفسه في دور أوبنهايمر الحديث، الذي يدرك تماماً القوة المدمرة لخليقته، لكنه يستمر في العمل، آملاً بأن نسخته من القنبلة ستكون آمنة بما يكفي لكي لا تفجر العالم أثناء عملية الاختبار.

النقاد، بالطبع، يرون في هذا محاولة لالتقاط تنظيمي. إذا أقنعت الحكومات بأن الذكاء الاصطناعي لعبة مميتة، ستضع السلطات قواعد صارمة جداً بحيث لا يستطيع اللاعبون الجدد ببساطة دخول السوق بسبب البيروقراطية وتكاليف الامتثال. إنها طريقة ممتازة لتعزيز هيمنة العمالقة الحاليين تحت ذريعة الاهتمام بقاء النوع. ومع ذلك، في حالة أمودي، تبدو هذه النظرية بسيطة جداً. تنفق شركته أكثر على أبحاث الأمان من أي شخص آخر في الصناعة، وقلقه يبدو مخيفاً وحقيقياً.

في النهاية، نشهد لحظة تاريخية فريدة عندما يصبح منشئو التكنولوجيا أشرس نقادها. يواجهنا أمودي بحقيقة: نحن ننشئ قوة لا نفهمها تماماً ولا نعرف كيفية إدارتها. إذا كان الرجل الذي يعرف Claude من الداخل يخاف من خليقته، فيجب علينا نحن المستخدمين العاديين على الأقل أن نبدأ بطرح الأسئلة الصحيحة على ساستنا. هل سنتمكن من الاستيقاظ في الوقت المناسب، أم ستصبح هذه التحذيرات مجرد اقتباس آخر في كتب التاريخ التي ستكتبها شيء غير الإنسان؟

الخلاصة: يؤكد رئيس Anthropic أن سباق التسلح في الذكاء الاصطناعي قد دخل مرحلة حيث يتم التضحية بالأمان من أجل السرعة. هل ستتمكن الصناعة من التوقف عند الحافة دون كارثة؟