OpenAI تفتح مكاتبها لأول مرة أمام أربعة مدققين خارجيين لفحص نماذجها
عادةً ما تتولى المختبرات نفسها فحص سلامة الذكاء الاصطناعي، أما OpenAI فقد دعت لأول مرة أربعة مدققين مستقلين إلى العمل داخل مكاتبها مباشرة. وهم Apollo Research وMETR وTransluce وGoodfire، وقد فُتح أمامهم الوصول إلى النماذج غير المنشورة والشيفرة وبيانات التدريب وأنظمة المراقبة. ويشرف على الفحص مجلس مستقل للسلامة يتلقى التقارير كاملة دون حذف. وبالنسبة إلى السوق، يشكّل ذلك اختبارًا لما إذا كان التدقيق الخارجي للذكاء الاصطناعي سيصبح معيارًا معتمدًا.
معالج بواسطة الذكاء الاصطناعي من The Decoder؛ بتحرير Hamidun News
عادةً ما نعرف شيئًا عن سلامة الذكاء الاصطناعي من تقارير الشركات نفسها: يفحص المختبر نموذجه بنفسه، ثم يعلن بنفسه أن كل شيء على ما يرام. الأمر أشبه بمطعم يمنح نفسه شهادة النظافة الصحية. قررت OpenAI إضافة نظرة خارجية: فقد فتحت الشركة لأول مرة أنظمتها الداخلية أمام أربعة مدققين مستقلين يعملون داخل مكاتبها ويدرسون المخاطر وسلوك النماذج. والمقصود بالمدققين هنا مؤسسات بحثية خارجية لا ترتبط بـ OpenAI.
من يفحص وماذا يفحص
ضم البرنامج كلًّا من Apollo Research وMETR وTransluce وGoodfire. ولكل جهة مهمتها الخاصة. تتحقق Apollo Research مما إذا كانت النماذج تعمل سرًّا ضد نوايا مطوّريها. وتحلل METR حالات السلوك الخاطئ للذكاء الاصطناعي في أكبر عملية تدريب بالتعلّم المعزَّز، وهو أسلوب يتعلم فيه النموذج من «مكافآت» تُمنح له على الأفعال الصحيحة. أما Goodfire فتحلل العمليات الداخلية للنموذج، أي تحاول فهم ما يجري «تحت الغطاء». وتقيّم Transluce فحوص السلامة التي تُجرى بعد التدريب الأساسي.
يختلف مستوى الوصول بحسب المهمة، لكن القائمة لافتة. ففي مكاتب OpenAI يستطيع المدققون العمل مع نماذج لم تصدر بعد، ومع الشيفرة المصدرية وبيانات التدريب وأنظمة المراقبة. كما يحق لهم التحدث مع المطوّرين بسرّية. وهذا مهم، لأن المهندسين كثيرًا ما يعرفون عن مواطن الضعف أكثر مما يرد في الوثائق الرسمية.
يبني البرنامج على فحص ميداني سابق تناول أنظمة المراقبة لدى OpenAI. وتقول الشركة أيضًا إنها تفي بذلك بالتزاماتها بموجب «White House Accord on Super Intelligence». وتخطط OpenAI وTransluce في مطلع عام 2027 لفحص إضافي، تبلغ مدته هذه المرة ثمانية أسابيع.
كيف تُضبط الرقابة على المدققين
ولكي لا تتحول العملية إلى إجراء شكلي، يشرف عليها مجلس مستقل للسلامة. يتابع المجلس العمل كله، ويتلقى التقارير دون حذف أي مقاطع منها، ويتولى دور الوسيط عند نشوب خلاف بين الطرفين. وإذا اختلف المدقق والشركة، مثلًا في تقدير مستوى خطر ما، فلن تكون OpenAI وحدها من يحسم الأمر.
ينشر المدققون استنتاجاتهم بأنفسهم. لكن لدى الشركة أدوات تأثير: إذ يمكن لـ OpenAI حذف المواد السرية وتأجيل النشر لتعالج المخاطر المكتشفة أولًا. من جهة، هذا معقول، فلا فائدة من نشر وصف لثغرة قبل إغلاقها. ومن جهة أخرى، ستكون هذه النقطة بالذات هي الحد الفاصل الرئيسي للثقة. أما مدى تكرار تأخير التقارير ومدته فلن يتضح إلا بالممارسة.
وتقر OpenAI نفسها بأنها تتوقع احتكاكات في البداية. وهي تفكر بالفعل في فحوص جديدة، منها ما سيتناول الثقافة المؤسسية والعمليات الداخلية. أي إن المدققين قد يُدعون إلى النظر لا في النماذج فحسب، بل في كيفية اتخاذ الشركة لقراراتها أيضًا.
ماذا يعني ذلك للصناعة
بالنسبة إلى المطورين ومديري المنتجات الذين يبنون منتجاتهم فوق نماذج OpenAI، فالخبر إشاري في الغالب. فهو لا يحمل تغييرات مباشرة في API. لكنه يبيّن اتجاه حركة السوق: بدأت المختبرات الكبرى تدعم تصريحاتها عن السلامة بفحوص من جهات خارجية، لا باختباراتها الخاصة وحدها.
أما بالنسبة إلى المؤسسين والفرق التي تبني نماذجها أو وكلاءها الخاصة، فهو مؤشر إرشادي أيضًا. فإذا اعتاد المنظّمون والعملاء أن يكون لدى المختبر الرائد تدقيق خارجي مع إمكانية الوصول إلى الشيفرة والبيانات، فسيُطرح السؤال «ومن فحصكم؟» على الآخرين كذلك. وسيكون من الممارسات المفيدة أن تفكر الفرق مسبقًا في كيفية عرض السجلات وأنظمة المراقبة ونتائج التقييم على الخبراء الخارجيين.
وثمة قيود لا بد من ذكرها بصراحة. فما زال الأمر مجرد إعلان: لا توجد نتائج فحوص بعد، ولا يُعرف ما الذي سيجده المدققون. والمشاركون مؤسسات اختارت OpenAI بنفسها العمل معها. كما يبقى حق تحرير التقارير وتأجيلها بيد الشركة. لذلك لن تُقاس القيمة الحقيقية للبرنامج إلا بالمنشورات الأولى: مدى ما ستتضمنه من تفاصيل محددة، ومدى حدّة الاستنتاجات التي ستخلص إليها.
أما الخلاصة الرئيسية حتى الآن فهي أن خبراء خارجيين حصلوا لأول مرة على وصول مباشر إلى النماذج غير المنشورة والشيفرة والبيانات لدى أحد مختبرات الذكاء الاصطناعي الرائدة. وكل ما بعد ذلك يتوقف على مدى صدق عمل هذه الآلية.
- 21 نوفمبر 2026كاليفورنيا تقاضي OpenAI: وكلاء الذكاء الاصطناعي لديها خرجوا عن السيطرة 80 مرة على الأقل
- 21 نوفمبر 2026نموذج GPT-6 Cyber من OpenAI يكتشف نحو 35 ثغرة في iPhone وMac وأجهزة Apple الأخرى
- 21 نوفمبر 202622 وكيل من Claude بحثوا ست أسابيع في ألغاز الثقوب السوداء — وحلّوا مسألتين
- 21 نوفمبر 2026Google تفصل بين حفظ المحادثات والتدريب في Gemini: إلغاء التدريب دون خسارة السجل
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول من يفحص وماذا يفحص؟
ضم البرنامج كلًّا من Apollo Research وMETR وTransluce وGoodfire. ولكل جهة مهمتها الخاصة. تتحقق Apollo Research مما إذا كانت النماذج تعمل سرًّا ضد نوايا مطوّريها. وتحلل METR حالات السلوك الخاطئ للذكاء الاصطناعي في أكبر عملية تدريب بالتعلّم المعزَّز، وهو أسلوب يتعلم فيه النموذج من «مكافآت» تُمنح له على الأفعال الصحيحة. أما Goodfire فتحلل العمليات الداخلية للنموذج، أي تحاول فهم ما يجري «تحت الغطاء». وتقيّم Transluce فحوص السلامة التي تُجرى بعد التدريب الأساسي. يختلف مستوى الوصول بحسب المهمة، لكن القائمة لافتة.
ما أبرز التفاصيل حول كيف تُضبط الرقابة على المدققين؟
ولكي لا تتحول العملية إلى إجراء شكلي، يشرف عليها مجلس مستقل للسلامة. يتابع المجلس العمل كله، ويتلقى التقارير دون حذف أي مقاطع منها، ويتولى دور الوسيط عند نشوب خلاف بين الطرفين. وإذا اختلف المدقق والشركة، مثلًا في تقدير مستوى خطر ما، فلن تكون OpenAI وحدها من يحسم الأمر. ينشر المدققون استنتاجاتهم بأنفسهم. لكن لدى الشركة أدوات تأثير: إذ يمكن لـ OpenAI حذف المواد السرية وتأجيل النشر لتعالج المخاطر المكتشفة أولًا. من جهة، هذا معقول، فلا فائدة من نشر وصف لثغرة قبل إغلاقها.
ما أبرز التفاصيل حول ماذا يعني ذلك للصناعة؟
بالنسبة إلى المطورين ومديري المنتجات الذين يبنون منتجاتهم فوق نماذج OpenAI، فالخبر إشاري في الغالب. فهو لا يحمل تغييرات مباشرة في API. لكنه يبيّن اتجاه حركة السوق: بدأت المختبرات الكبرى تدعم تصريحاتها عن السلامة بفحوص من جهات خارجية، لا باختباراتها الخاصة وحدها. أما بالنسبة إلى المؤسسين والفرق التي تبني نماذجها أو وكلاءها الخاصة، فهو مؤشر إرشادي أيضًا. فإذا اعتاد المنظّمون والعملاء أن يكون لدى المختبر الرائد تدقيق خارجي مع إمكانية الوصول إلى الشيفرة والبيانات، فسيُطرح السؤال «ومن فحصكم؟» على الآخرين كذلك.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.