ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارTechCrunch→ المصدر

الباحث Russell يحذّر من سباق تسلّح في تطوير الذكاء الاصطناعي العام (AGI)

أدلى خبير الذكاء الاصطناعي Stuart Russell بشهادته في الدعوى التي رفعها Musk ضد OpenAI. ويرى أنه في غياب رقابة حكومية يتنافس المطوّرون على سرعة الوصول إلى AGI على حساب الأمان. ويقترح Russell منح تراخيص حكومية لمختبرات النماذج الحدودية (frontier)، على غرار ما هو معمول به في قطاع الطاقة الذرية.

معالج بواسطة الذكاء الاصطناعي من TechCrunch؛ بتحرير Hamidun News
الباحث Russell يحذّر من سباق تسلّح في تطوير الذكاء الاصطناعي العام (AGI)
المصدر: TechCrunch. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليTechCrunch ↗
رئيس التحرير
حقيقة رئيسية #1الشركات تتجاوز بعض خطوات التحقق من الأمان
حقيقة رئيسية #2المستثمرون والمساهمون يضغطون لتسريع التطوير
حقيقة رئيسية #3لا توجد اتفاقيات دولية بشأن المعايير

أدلى Stuart Russell، أحد أبرز المتخصصين في أمان الذكاء الاصطناعي، بشهادته أمام المحكمة في الدعوى التي رفعها Elon Musk ضد OpenAI. ويطلق Russell تحذيرًا واضحًا: فهو يخشى أن يؤدي التنافس على الريادة في تطوير AGI إلى سباق تسلّح، تضحّي فيه الشركات بالأمان من أجل السرعة.

من هو Russell ولماذا يحظى كلامه بثقل

Stuart Russell أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي. ويُعدّ كتابه الدراسي في الذكاء الاصطناعي مرجعًا معتمدًا في الجامعات حول العالم. وهو منذ أكثر من 30 عامًا لا يكتفي بالجانب التقني للذكاء الاصطناعي، بل يعنى أيضًا بقضاياه الفلسفية وقضايا الأمان. ويُعدّ Russell من القلائل الذين يصغي إليهم العلماء والسياسيون وقادة الشركات على حد سواء.

وسط تعدد الأصوات المحذّرة من مخاطر AGI، يتميّز Russell بدقته الأكاديمية. وتُعدّ مشاركته في الدعوى ضد OpenAI لحظة نادرة يتخذ فيها موقفًا سياسيًا صريحًا.

سباق تسلّح بلا ضوابط

يرى Russell في شهادته أنه في غياب الرقابة الحكومية نشهد وضعًا كلاسيكيًا من سباق التسلّح. فالشركات تخشى التخلف عن منافسيها، فتقلّص مدة اختبارات الأمان، وتخفّض متطلبات التحقق من النماذج، وتتعجّل في نشرها.

هذه ليست مؤامرة، بل مشكلة بنيوية في السوق، — هذا هو جوهر ما يقوله

Russell. — كل شركة تتصرف بمنطقية وفق مصلحتها، لكن النتيجة الجماعية خطيرة على الجميع.

ويختلف سباق التسلّح في AGI عن السباق التقليدي في أن الرهان أعلى بكثير، إذ يتعلق الأمر بأنظمة قد تتفوق على الذكاء البشري. وقد يكون الخطأ عند نشر نظام كهذا غير قابل للتدارك على المستوى العالمي.

أبرز طروحات Russell:

  • الشركات تتجاوز بعض خطوات التحقق من الأمان
  • المستثمرون والمساهمون يضغطون لتسريع التطوير
  • لا توجد اتفاقيات دولية بشأن المعايير
  • يستطيع رائد السوق فرض شروطه دون خشية من عقوبات

كيف يرى Russell الحل

لا يكتفي Russell بانتقاد الوضع القائم، بل يقترح إجراءات محددة: تراخيص حكومية لمطوّري النماذج الحدودية (كتراخيص المحطات النووية)، وفحوص أمان مستقلة قبل النشر، ومعايير دولية، وشفافية إلزامية في أساليب التدريب.

ويشبه ذلك التنظيم المعمول به في الطاقة الذرية أو صناعة الأدوية، وهما مجالان تترتب على الخطأ فيهما عواقب عالمية. ويقترح Russell تطبيق أدوات مجرَّبة من قطاعات عالية المخاطر الأخرى على تطوير AGI.

ماذا يعني ذلك

لم يعد السؤال عمّا إذا كان بوسع السوق تنظيم نفسه ذاتيًا في تطوير AGI سؤالًا أكاديميًا فحسب، فقد وصل إلى قاعات المحاكم ويؤثر في السياسات. ويتبنى Russell موقفًا مفاده أنه من دون تدخل سيقود منطق المنافسة حتمًا إلى أخطاء جسيمة. وما إذا كانت المحكمة، ومن بعدها صنّاع السياسات، ستصغي إليه سؤال يتوقف عليه مستقبل الصناعة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول من هو Russell ولماذا يحظى كلامه بثقل؟

Stuart Russell أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي. ويُعدّ كتابه الدراسي في الذكاء الاصطناعي مرجعًا معتمدًا في الجامعات حول العالم. وهو منذ أكثر من 30 عامًا لا يكتفي بالجانب التقني للذكاء الاصطناعي، بل يعنى أيضًا بقضاياه الفلسفية وقضايا الأمان. ويُعدّ Russell من القلائل الذين يصغي إليهم العلماء والسياسيون وقادة الشركات على حد سواء. وسط تعدد الأصوات المحذّرة من مخاطر AGI، يتميّز Russell بدقته الأكاديمية. وتُعدّ مشاركته في الدعوى ضد OpenAI لحظة نادرة يتخذ فيها موقفًا سياسيًا صريحًا.

ما أبرز التفاصيل حول سباق تسلّح بلا ضوابط؟

يرى Russell في شهادته أنه في غياب الرقابة الحكومية نشهد وضعًا كلاسيكيًا من سباق التسلّح. فالشركات تخشى التخلف عن منافسيها، فتقلّص مدة اختبارات الأمان، وتخفّض متطلبات التحقق من النماذج، وتتعجّل في نشرها. هذه ليست مؤامرة، بل مشكلة بنيوية في السوق، — هذا هو جوهر ما يقوله Russell. — كل شركة تتصرف بمنطقية وفق مصلحتها، لكن النتيجة الجماعية خطيرة على الجميع. ويختلف سباق التسلّح في AGI عن السباق التقليدي في أن الرهان أعلى بكثير، إذ يتعلق الأمر بأنظمة قد تتفوق على الذكاء البشري.

ما أبرز التفاصيل حول كيف يرى Russell الحل؟

لا يكتفي Russell بانتقاد الوضع القائم، بل يقترح إجراءات محددة: تراخيص حكومية لمطوّري النماذج الحدودية (كتراخيص المحطات النووية)، وفحوص أمان مستقلة قبل النشر، ومعايير دولية، وشفافية إلزامية في أساليب التدريب. ويشبه ذلك التنظيم المعمول به في الطاقة الذرية أو صناعة الأدوية، وهما مجالان تترتب على الخطأ فيهما عواقب عالمية. ويقترح Russell تطبيق أدوات مجرَّبة من قطاعات عالية المخاطر الأخرى على تطوير AGI.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…