ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارTNW→ المصدر

OpenAI تُدخل ستة مدقّقين من Apollo إلى داخل الشركة لأربعة أشهر

أتاحت OpenAI لستة مدقّقين من Apollo Research العمل داخل الشركة أربعة أشهر، يبحثون خلالها عن مؤشرات على أن النماذج تتجاوز القيود الوقائية. كانت Apollo تحصل على النماذج سابقًا قبيل الإصدار فقط، أما الآن فستطّلع على التدريب والاختبارات والاستخدام الداخلي. لكن الوصول محدود: فـOpenAI هي التي تختار من يتحدث إليهم المدقّقون، ويمكنها حجب جزء من المواد. وهذه تجربة لاختبار ما إذا كان التدقيق الخارجي للذكاء الاصطناعي ممكنًا دون رقابة على الاستنتاجات.

معالج بواسطة الذكاء الاصطناعي من TNW؛ بتحرير Hamidun News
OpenAI تُدخل ستة مدقّقين من Apollo إلى داخل الشركة لأربعة أشهر
المصدر: TNW. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليTNW ↗
رئيس التحرير
حقيقة رئيسية #1ستنشر Apollo تقريرين، ولا يحق لـOpenAI حذف أحكام المدقّقين
حقيقة رئيسية #2تقدّم OpenAI شيفرة التدريب والبيانات وسلاسل استدلال النموذج المسجّلة أثناء التدريب
حقيقة رئيسية #3لا وصول إلى Slack، والعمل يتم على أجهزة OpenAI فقط

تجري عادةً عمليات التدقيق الخارجي لسلامة الذكاء الاصطناعي على النحو التالي: ينتهي المختبر من إعداد النموذج، ويسلّمه للاختبار قبل الإصدار بأسابيع قليلة، ثم ينشر تقريرًا مُرضيًا. أما Apollo Research وOpenAI فقررتا تجربة صيغة مختلفة. سيعمل ستة مقيّمين من Apollo أربعة أشهر داخل OpenAI، ويفحصون ما إذا كانت النماذج تحاول تقويض إجراءات التحكم والمواءمة (alignment) المفترض أن تُبقيها ضمن حدودها.

ما الذي سيُفحص بالضبط

لا يقتصر الفحص على النموذج النهائي، بل يشمل المسار كله: التدريب والاختبار والاستخدام الداخلي. وهذا مهم لأن الوقت، بحسب Apollo، يكون قد فات إذا انتُظر حتى ما قبل الإصدار مباشرة لاكتشاف أن النموذج يسعى بصمت إلى أهداف لم يقصدها مطوّروه. فقد يكون هذا السلوك قد ترسّخ بالفعل خلال التدريب.

سيبحث الفريق عن إجابات لأربعة أسئلة. الأول: هل يكافئ التدريب النموذج على تجاوز القيود، وهل يمكن كشف ذلك بالاختبارات؟ والثاني: هل يظهر هذا السلوك حين تستخدم OpenAI نفسها نماذجها داخل الشركة، وهل سيفضح النموذج نفسه عبر استدلالاته؟ والاستخدام الداخلي خطر حقيقي: ففي يوليو أوقفت OpenAI بالفعل أحد نماذجها الداخلية مؤقتًا.

وللاتجاه الأول، أي التدريب، ستسلّم OpenAI شيفرة التدريب والبيانات وسجلات استدلال النموذج من جولات تدريب فعلية. أما الاتجاهات الثلاثة الأخرى فلم يُتفق بعدُ على الوصول إليها.

أين تقع الحدود

الشروط بعيدة عن الحرية الكاملة. فـOpenAI هي التي تختار الموظفين الذين يحق للمقيّمين التحدث إليهم، وتُدوَّن المحادثات الرسمية في محاضر. وسيعمل الفريق على أجهزة OpenAI، عبر قنوات يمكن مراقبتها، ودون وصول إلى Slack المؤسسي الذي يدور فيه الكثير من النقاشات غير الرسمية.

يحق لـOpenAI حجب مواد لأسباب تتعلق بالأمان أو بحماية الملكية الفكرية، لكن لا يحق لها حجبها لمجرد أنها تبدو محرجة. وستصدر Apollo تقريرين. ويمكن لـOpenAI أن تطلب حجب الأدلة السرية، لكنها لا تستطيع حذف استنتاجات Apollo نفسها. كما يحق لـApollo أن تعلن علنًا ما رُفض منحها إياه وكيف يؤثر ذلك في موثوقية استنتاجاتها.

وهذا البند الأخير هو الأكثر إثارة للاهتمام. تسمّيه Apollo «الشفافية الفوقية» (metatransparency): فإذا لم يجد المدقّقون شيئًا، فهذا لا يعني بالضرورة أن كل شيء سليم. فربما لم يُسمح لهم بالنظر إلى المواضع التي تكمن فيها المشكلات. والإفصاح عن القيود يتيح لقارئ التقرير أن يقدّر بنفسه ما الذي تثبته نتيجة «نظيفة» في الواقع.

السياق وما العمل

تأتي هذه الاتفاقية امتدادًا لخطوات حديثة اتخذتها OpenAI: فقد تحدث سام ألتمان سابقًا عن مختبِرين خارجيين بصلاحيات وصول قريبة من صلاحيات الموظفين، وخططت الشركة لإشراك جهات خارجية في اختبار النماذج أثناء التدريب نفسه. وفي هذا السياق تصف Apollo التجربة بأنها خطوة أولى فحسب: فما زال أمامها طريق طويل قبل بلوغ الوصول الكامل وحق نشر النتائج بحرية، وهو ما تسعى إليه.

والخلاصة العملية للمطوّرين ومديري المنتجات الذين يبنون على نماذج OpenAI أو ينشئون أنظمتهم الخاصة القائمة على الوكلاء (agents). أولًا، قد يصبح نموذج «المدقّق داخل العملية» معيارًا مألوفًا في المختبرات الكبرى، وسيبدأ العملاء بالسؤال عن كيفية التحقق من سلوك النماذج. ثانيًا، عند قراءة أي تقارير سلامة، ينبغي النظر لا إلى النتائج فحسب بل إلى الشروط أيضًا: ما الذي عُرض على المدقّق، وما الذي أُخفي عنه، ومن اختار محاوريه. وإذا كنتم تبنون تدقيقًا داخليًا للوكلاء، فاعتمدوا المبدأ نفسه: حدّدوا مسبقًا ما لا يجوز تعديله في الاستنتاجات، ووصفوا قيود الوصول بوضوح.

وتنبغي الإشارة بصدق إلى أن تجربة تدوم أربعة أشهر ويشارك فيها ستة أشخاص لا تضمن اكتشاف أي سلوك خطير، كما أن بعض صلاحيات الوصول لم يُتفق عليها بعد. لكن مجرد أن أحكام المدقّقين لا يمكن شطبها، وأن حالات الرفض يمكن إعلانها، يجعل هذه التجربة أكثر جدوى بكثير من الفحص المعتاد قبل الإصدار.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي سيُفحص بالضبط؟

لا يقتصر الفحص على النموذج النهائي، بل يشمل المسار كله: التدريب والاختبار والاستخدام الداخلي. وهذا مهم لأن الوقت، بحسب Apollo، يكون قد فات إذا انتُظر حتى ما قبل الإصدار مباشرة لاكتشاف أن النموذج يسعى بصمت إلى أهداف لم يقصدها مطوّروه. فقد يكون هذا السلوك قد ترسّخ بالفعل خلال التدريب. سيبحث الفريق عن إجابات لأربعة أسئلة.

ما أبرز التفاصيل حول أين تقع الحدود؟

الشروط بعيدة عن الحرية الكاملة. فـOpenAI هي التي تختار الموظفين الذين يحق للمقيّمين التحدث إليهم، وتُدوَّن المحادثات الرسمية في محاضر. وسيعمل الفريق على أجهزة OpenAI، عبر قنوات يمكن مراقبتها، ودون وصول إلى Slack المؤسسي الذي يدور فيه الكثير من النقاشات غير الرسمية. يحق لـOpenAI حجب مواد لأسباب تتعلق بالأمان أو بحماية الملكية الفكرية، لكن لا يحق لها حجبها لمجرد أنها تبدو محرجة. وستصدر Apollo تقريرين. ويمكن لـOpenAI أن تطلب حجب الأدلة السرية، لكنها لا تستطيع حذف استنتاجات Apollo نفسها.

ما أبرز التفاصيل حول السياق وما العمل؟

تأتي هذه الاتفاقية امتدادًا لخطوات حديثة اتخذتها OpenAI: فقد تحدث سام ألتمان سابقًا عن مختبِرين خارجيين بصلاحيات وصول قريبة من صلاحيات الموظفين، وخططت الشركة لإشراك جهات خارجية في اختبار النماذج أثناء التدريب نفسه. وفي هذا السياق تصف Apollo التجربة بأنها خطوة أولى فحسب: فما زال أمامها طريق طويل قبل بلوغ الوصول الكامل وحق نشر النتائج بحرية، وهو ما تسعى إليه. والخلاصة العملية للمطوّرين ومديري المنتجات الذين يبنون على نماذج OpenAI أو ينشئون أنظمتهم الخاصة القائمة على الوكلاء (agents).

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…