ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارThe Decoder→ المصدر

OpenAI تفتح مكاتبها لأول مرة أمام أربعة مدققين خارجيين لفحص نماذجها

عادةً ما تتولى المختبرات نفسها فحص سلامة الذكاء الاصطناعي، أما OpenAI فقد دعت لأول مرة أربعة مدققين مستقلين إلى العمل داخل مكاتبها مباشرة. وهم Apollo Research وMETR وTransluce وGoodfire، وقد فُتح أمامهم الوصول إلى النماذج غير المنشورة والشيفرة وبيانات التدريب وأنظمة المراقبة. ويشرف على الفحص مجلس مستقل للسلامة يتلقى التقارير كاملة دون حذف. وبالنسبة إلى السوق، يشكّل ذلك اختبارًا لما إذا كان التدقيق الخارجي للذكاء الاصطناعي سيصبح معيارًا معتمدًا.

معالج بواسطة الذكاء الاصطناعي من The Decoder؛ بتحرير Hamidun News
OpenAI تفتح مكاتبها لأول مرة أمام أربعة مدققين خارجيين لفحص نماذجها
المصدر: The Decoder. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليThe Decoder ↗
رئيس التحرير
حقيقة رئيسية #1تبحث Apollo Research عن النماذج التي تعمل سرًّا ضد مطوّريها
حقيقة رئيسية #2تدرس METR حالات الإخفاق في أكبر عملية تدريب بالتعلّم المعزَّز
حقيقة رئيسية #3يحق لـ OpenAI حذف بيانات من التقارير وتأجيل نشرها

عادةً ما نعرف شيئًا عن سلامة الذكاء الاصطناعي من تقارير الشركات نفسها: يفحص المختبر نموذجه بنفسه، ثم يعلن بنفسه أن كل شيء على ما يرام. الأمر أشبه بمطعم يمنح نفسه شهادة النظافة الصحية. قررت OpenAI إضافة نظرة خارجية: فقد فتحت الشركة لأول مرة أنظمتها الداخلية أمام أربعة مدققين مستقلين يعملون داخل مكاتبها ويدرسون المخاطر وسلوك النماذج. والمقصود بالمدققين هنا مؤسسات بحثية خارجية لا ترتبط بـ OpenAI.

من يفحص وماذا يفحص

ضم البرنامج كلًّا من Apollo Research وMETR وTransluce وGoodfire. ولكل جهة مهمتها الخاصة. تتحقق Apollo Research مما إذا كانت النماذج تعمل سرًّا ضد نوايا مطوّريها. وتحلل METR حالات السلوك الخاطئ للذكاء الاصطناعي في أكبر عملية تدريب بالتعلّم المعزَّز، وهو أسلوب يتعلم فيه النموذج من «مكافآت» تُمنح له على الأفعال الصحيحة. أما Goodfire فتحلل العمليات الداخلية للنموذج، أي تحاول فهم ما يجري «تحت الغطاء». وتقيّم Transluce فحوص السلامة التي تُجرى بعد التدريب الأساسي.

يختلف مستوى الوصول بحسب المهمة، لكن القائمة لافتة. ففي مكاتب OpenAI يستطيع المدققون العمل مع نماذج لم تصدر بعد، ومع الشيفرة المصدرية وبيانات التدريب وأنظمة المراقبة. كما يحق لهم التحدث مع المطوّرين بسرّية. وهذا مهم، لأن المهندسين كثيرًا ما يعرفون عن مواطن الضعف أكثر مما يرد في الوثائق الرسمية.

يبني البرنامج على فحص ميداني سابق تناول أنظمة المراقبة لدى OpenAI. وتقول الشركة أيضًا إنها تفي بذلك بالتزاماتها بموجب «White House Accord on Super Intelligence». وتخطط OpenAI وTransluce في مطلع عام 2027 لفحص إضافي، تبلغ مدته هذه المرة ثمانية أسابيع.

كيف تُضبط الرقابة على المدققين

ولكي لا تتحول العملية إلى إجراء شكلي، يشرف عليها مجلس مستقل للسلامة. يتابع المجلس العمل كله، ويتلقى التقارير دون حذف أي مقاطع منها، ويتولى دور الوسيط عند نشوب خلاف بين الطرفين. وإذا اختلف المدقق والشركة، مثلًا في تقدير مستوى خطر ما، فلن تكون OpenAI وحدها من يحسم الأمر.

ينشر المدققون استنتاجاتهم بأنفسهم. لكن لدى الشركة أدوات تأثير: إذ يمكن لـ OpenAI حذف المواد السرية وتأجيل النشر لتعالج المخاطر المكتشفة أولًا. من جهة، هذا معقول، فلا فائدة من نشر وصف لثغرة قبل إغلاقها. ومن جهة أخرى، ستكون هذه النقطة بالذات هي الحد الفاصل الرئيسي للثقة. أما مدى تكرار تأخير التقارير ومدته فلن يتضح إلا بالممارسة.

وتقر OpenAI نفسها بأنها تتوقع احتكاكات في البداية. وهي تفكر بالفعل في فحوص جديدة، منها ما سيتناول الثقافة المؤسسية والعمليات الداخلية. أي إن المدققين قد يُدعون إلى النظر لا في النماذج فحسب، بل في كيفية اتخاذ الشركة لقراراتها أيضًا.

ماذا يعني ذلك للصناعة

بالنسبة إلى المطورين ومديري المنتجات الذين يبنون منتجاتهم فوق نماذج OpenAI، فالخبر إشاري في الغالب. فهو لا يحمل تغييرات مباشرة في API. لكنه يبيّن اتجاه حركة السوق: بدأت المختبرات الكبرى تدعم تصريحاتها عن السلامة بفحوص من جهات خارجية، لا باختباراتها الخاصة وحدها.

أما بالنسبة إلى المؤسسين والفرق التي تبني نماذجها أو وكلاءها الخاصة، فهو مؤشر إرشادي أيضًا. فإذا اعتاد المنظّمون والعملاء أن يكون لدى المختبر الرائد تدقيق خارجي مع إمكانية الوصول إلى الشيفرة والبيانات، فسيُطرح السؤال «ومن فحصكم؟» على الآخرين كذلك. وسيكون من الممارسات المفيدة أن تفكر الفرق مسبقًا في كيفية عرض السجلات وأنظمة المراقبة ونتائج التقييم على الخبراء الخارجيين.

وثمة قيود لا بد من ذكرها بصراحة. فما زال الأمر مجرد إعلان: لا توجد نتائج فحوص بعد، ولا يُعرف ما الذي سيجده المدققون. والمشاركون مؤسسات اختارت OpenAI بنفسها العمل معها. كما يبقى حق تحرير التقارير وتأجيلها بيد الشركة. لذلك لن تُقاس القيمة الحقيقية للبرنامج إلا بالمنشورات الأولى: مدى ما ستتضمنه من تفاصيل محددة، ومدى حدّة الاستنتاجات التي ستخلص إليها.

أما الخلاصة الرئيسية حتى الآن فهي أن خبراء خارجيين حصلوا لأول مرة على وصول مباشر إلى النماذج غير المنشورة والشيفرة والبيانات لدى أحد مختبرات الذكاء الاصطناعي الرائدة. وكل ما بعد ذلك يتوقف على مدى صدق عمل هذه الآلية.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول من يفحص وماذا يفحص؟

ضم البرنامج كلًّا من Apollo Research وMETR وTransluce وGoodfire. ولكل جهة مهمتها الخاصة. تتحقق Apollo Research مما إذا كانت النماذج تعمل سرًّا ضد نوايا مطوّريها. وتحلل METR حالات السلوك الخاطئ للذكاء الاصطناعي في أكبر عملية تدريب بالتعلّم المعزَّز، وهو أسلوب يتعلم فيه النموذج من «مكافآت» تُمنح له على الأفعال الصحيحة. أما Goodfire فتحلل العمليات الداخلية للنموذج، أي تحاول فهم ما يجري «تحت الغطاء». وتقيّم Transluce فحوص السلامة التي تُجرى بعد التدريب الأساسي. يختلف مستوى الوصول بحسب المهمة، لكن القائمة لافتة.

ما أبرز التفاصيل حول كيف تُضبط الرقابة على المدققين؟

ولكي لا تتحول العملية إلى إجراء شكلي، يشرف عليها مجلس مستقل للسلامة. يتابع المجلس العمل كله، ويتلقى التقارير دون حذف أي مقاطع منها، ويتولى دور الوسيط عند نشوب خلاف بين الطرفين. وإذا اختلف المدقق والشركة، مثلًا في تقدير مستوى خطر ما، فلن تكون OpenAI وحدها من يحسم الأمر. ينشر المدققون استنتاجاتهم بأنفسهم. لكن لدى الشركة أدوات تأثير: إذ يمكن لـ OpenAI حذف المواد السرية وتأجيل النشر لتعالج المخاطر المكتشفة أولًا. من جهة، هذا معقول، فلا فائدة من نشر وصف لثغرة قبل إغلاقها.

ما أبرز التفاصيل حول ماذا يعني ذلك للصناعة؟

بالنسبة إلى المطورين ومديري المنتجات الذين يبنون منتجاتهم فوق نماذج OpenAI، فالخبر إشاري في الغالب. فهو لا يحمل تغييرات مباشرة في API. لكنه يبيّن اتجاه حركة السوق: بدأت المختبرات الكبرى تدعم تصريحاتها عن السلامة بفحوص من جهات خارجية، لا باختباراتها الخاصة وحدها. أما بالنسبة إلى المؤسسين والفرق التي تبني نماذجها أو وكلاءها الخاصة، فهو مؤشر إرشادي أيضًا. فإذا اعتاد المنظّمون والعملاء أن يكون لدى المختبر الرائد تدقيق خارجي مع إمكانية الوصول إلى الشيفرة والبيانات، فسيُطرح السؤال «ومن فحصكم؟» على الآخرين كذلك.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…