ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارAPI / منتج · جاهز للعملOpenAI Blog→ المصدر

OpenAI تفتح نماذجها أمام أربعة مدققين خارجيين: Apollo وMETR وTransluce وGoodfire

فتحت OpenAI مختبرها أمام أربعة مدققين مستقلين هم Apollo Research وMETR وTransluce وGoodfire. لن يطّلعوا على ردود API فحسب، بل أيضًا على نقاط الحفظ (checkpoints) والشيفرة وبيانات التدريب. الأمر أشبه بتفتيش مطبخ المطعم لا الاكتفاء بالطبق على الطاولة. وسيبحث المدققون عن إخفاقات لم تتوقعها الشركة، ومنها مثلًا أن يعمل النموذج سرًّا ضد مطوّريه. ستُنشر النتائج، لكن حق حذف المعلومات السرية يبقى بيد OpenAI.

معالج بواسطة الذكاء الاصطناعي من OpenAI Blog؛ بتحرير Hamidun News
OpenAI تفتح نماذجها أمام أربعة مدققين خارجيين: Apollo وMETR وTransluce وGoodfire
المصدر: OpenAI Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليOpenAI Blog ↗
رئيس التحرير
حقيقة رئيسية #1ستدرس METR أكبر عملية تدريب بالتعلم المعزَّز في تاريخ OpenAI
حقيقة رئيسية #2ستفحص Transluce اختبارات المواءمة؛ والمرحلة الثانية، ومدتها 8 أسابيع، في 2027
حقيقة رئيسية #3لا يعمل المدققون مع البيانات السرية إلا داخل مكاتب OpenAI

تجري المراجعة الخارجية للذكاء الاصطناعي عادةً على النحو التالي: يطلق المختبر نموذجًا، ثم يختبره باحثون مستقلون عبر API ويكتبون تقريرًا. لا يرون إلا ما قررت الشركة إظهاره. الأمر أشبه بتقييم مطعم من خلال طبق واحد على الطاولة، مع منع الجميع من دخول المطبخ. أعلنت OpenAI عن نهج مختلف يحمل اسم «التقييمات المدمجة» (embedded assessments). فقد وقّعت اتفاقيات مع أربعة فرق مستقلة هي Apollo Research وMETR وTransluce وGoodfire. وستحصل هذه الفرق على وصول معمّق إلى النماذج والأنظمة الداخلية لفترة طويلة. وإذا كنت تبني منتجات على أقوى النماذج، فهذه فرصة لتفهم إلى أي مدى يمكن الوثوق بتصريحات المختبرات بشأن السلامة.

ماذا سيحصل عليه المدققون ومن سيتولى ماذا

بحسب المهمة، سيحصل المدققون على جزء من الموارد نفسها التي يستخدمها باحثو OpenAI. وتشمل نقاط حفظ النموذج (نسخ وسيطة محفوظة منه) والشيفرة المصدرية وبيانات التدريب والاختبار وأنظمة المراقبة والوثائق التقنية والمحادثات مع المهندسين. وتركّز المرحلة الأولى على «المواءمة» (alignment، أي اتساق سلوك النموذج مع نوايا المطوّرين) وعلى آليات الحماية أثناء التدريب والاستخدام الداخلي.

ستتحقق Apollo Research مما إذا كان النموذج قادرًا على العمل سرًّا ضد مطوّريه، وما إذا كانت أنظمة الحماية سترصد ذلك. ولهذا ستفحص Apollo أربعة ادعاءات لـ OpenAI: أن التدريب لم يكافئ هذا السلوك؛ وأن الاختبارات القوية وفرق الاختراق الاستباقي (red teaming) لا تستثيره؛ وأنه لم تُسجَّل محاولات من هذا النوع أثناء الاستخدام الداخلي للنماذج؛ وأن الاستدلال الكامن وراء مثل هذا السلوك يمكن اكتشافه. وتجري المراجعة على مرحلتين.

ستتولى METR مهمتين. الأولى البحث عن سلوك غير متواءم في أكبر عملية تدريب بالتعلم المعزَّز أجرتها OpenAI حتى اليوم، بما في ذلك الإخفاقات التي فاتت الاختبارات والمراقبات الحالية. وستحدد METR أولوياتها بنفسها وستغيّر أساليبها خلال العمل. والمهمة الثانية إعادة فحص المراقبات، أي الأنظمة التي ترصد سلوك النماذج. وكانت METR قد أجرت لصالح OpenAI مؤخرًا تدريبات من هذا النوع استمرت ثلاثة أسابيع مع وصول إلى قاعدة الشيفرة والمراقبات. أما المراجعة الجديدة فمصمَّمة لتكون أوسع، لكن نطاقها لم يُتفق عليه حتى الآن إلا بصورة مبدئية.

ستقيّم Transluce جودة اختبارات المواءمة التي تشغّلها OpenAI بعد الضبط الدقيق (fine-tuning) ومدى شمولها. وبعبارة أبسط، ستتحقق مما إذا كانت هذه الاختبارات تلتقط ما يُفترض أن تلتقطه. وفي مطلع 2027 تنوي الأطراف إجراء مرحلة ثانية تستمر نحو ثمانية أسابيع، مع وصول إلى عدد أكبر من النماذج وإلى معلومات عن كيفية تأثير نتائج الاختبارات في قرارات الإطلاق.

ستُدخل Goodfire باحثين في قابلية التفسير (interpretability) إلى الداخل. سيستخدمون منصتهم للنظر في البنية الداخلية للنموذج أثناء مراقبة التدريب وتصحيح أخطائه. والقراء الرئيسيون لاستنتاجاتهم هم باحثو OpenAI أنفسهم، لكن Goodfire ستنشر جزءًا من النتائج.

كيف حُميت الاستقلالية والأسرار

لم تُوحَّد بعدُ في أي مكان قواعد هذا النوع من المراجعات، وقد نشرت OpenAI قواعدها للنقاش. فمن يعمل بمعلومات حساسة عليه أن يجلس في مكاتب OpenAI وأن يستخدم أجهزة الشركة. ومتطلبات الأمان لا تقل عن تلك المطبّقة على الموظفين. وإذا كان الوصول المباشر إلى الأوزان أو البنية المعمارية محفوفًا بمخاطر كبيرة، فقد يُقرَن المدقق بباحث من OpenAI يشغّل التحليلات المطلوبة بنفسه.

تجري المحادثات مع الموظفين «بعيدًا عن التسجيل»: فهي تساعد على فهم السياق، لكن لا يجوز الاقتباس منها. ولكي يصبح بالإمكان الإعلان عن واقعة ما، يوجد مسار منفصل: يطلب المدقق من OpenAI المصادقة على الصياغة. فإما أن تؤكدها الشركة أو ترفضها، ومن حق المدقق أن يعلن رفضها علنًا.

تُحال الخلافات بين OpenAI والمدقق إلى مجموعة السلامة الاستشارية (Safety Advisory Group) وإلى الإدارة العليا، ولديهما وقت محدود لاتخاذ القرار. وإذا لم يُتوصل إلى اتفاق، يُرفع الأمر إلى لجنة السلامة (SSC) التابعة لمجلس إدارة OpenAI Foundation. وتتلقى اللجنة التقارير كاملة دون حذف، ويمكنها التواصل مع المدققين، بما في ذلك بصورة خاصة.

يمكن للمدققين نشر النتائج بأنفسهم. لكن OpenAI تحتفظ بحق حذف المعلومات السرية وطلب إرجاء النشر إذا كان لا بد من معالجة المشكلات المكتشفة أولًا. أما تضارب المصالح و«فترات التبريد» قبل عمل المدققين مع مختبرات أخرى، فما زالت الشركة تعمل على بحثها مع المدققين أنفسهم.

ماذا يعني ذلك وأين القيود

بالنسبة إلى القطاع، هذه خطوة نحو تدقيق خارجي يفحص عملية بناء النموذج، لا المنتج الجاهز فحسب. والمبادرة مرتبطة أيضًا بالتزامات OpenAI بموجب اتفاق البيت الأبيض بشأن الذكاء الاصطناعي الفائق، الذي وافقت فيه الشركة على تقييمات مستقلة لإجراءات السلامة لديها.

والتحفظات واضحة. فإطار المراجعة تحدده OpenAI نفسها: إذ تُذكر في حاشية أن المرحلة الأولى لدى METR أضيق من عرضها الخاص القائم على مسح واسع للمواءمة المفقودة. وحق تحرير التقارير يبقى بيد الشركة. أما التحقق من الالتزام بأطر السلامة الداخلية ومن الثقافة التنظيمية فلا يزال قيد الدراسة فحسب.

إذا كنت تختار مزوّد نماذج، فتابع منشورات Apollo وMETR وTransluce وGoodfire. ومنها سيتضح ما إذا كانت هذه المراجعات تكشف مشكلات حقيقية أم تبقى مجرد إجراء شكلي.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا سيحصل عليه المدققون ومن سيتولى ماذا؟

بحسب المهمة، سيحصل المدققون على جزء من الموارد نفسها التي يستخدمها باحثو OpenAI. وتشمل نقاط حفظ النموذج (نسخ وسيطة محفوظة منه) والشيفرة المصدرية وبيانات التدريب والاختبار وأنظمة المراقبة والوثائق التقنية والمحادثات مع المهندسين. وتركّز المرحلة الأولى على «المواءمة» (alignment، أي اتساق سلوك النموذج مع نوايا المطوّرين) وعلى آليات الحماية أثناء التدريب والاستخدام الداخلي. ستتحقق Apollo Research مما إذا كان النموذج قادرًا على العمل سرًّا ضد مطوّريه، وما إذا كانت أنظمة الحماية سترصد ذلك.

ما أبرز التفاصيل حول كيف حُميت الاستقلالية والأسرار؟

لم تُوحَّد بعدُ في أي مكان قواعد هذا النوع من المراجعات، وقد نشرت OpenAI قواعدها للنقاش. فمن يعمل بمعلومات حساسة عليه أن يجلس في مكاتب OpenAI وأن يستخدم أجهزة الشركة. ومتطلبات الأمان لا تقل عن تلك المطبّقة على الموظفين. وإذا كان الوصول المباشر إلى الأوزان أو البنية المعمارية محفوفًا بمخاطر كبيرة، فقد يُقرَن المدقق بباحث من OpenAI يشغّل التحليلات المطلوبة بنفسه. تجري المحادثات مع الموظفين «بعيدًا عن التسجيل»: فهي تساعد على فهم السياق، لكن لا يجوز الاقتباس منها.

ما أبرز التفاصيل حول ماذا يعني ذلك وأين القيود؟

بالنسبة إلى القطاع، هذه خطوة نحو تدقيق خارجي يفحص عملية بناء النموذج، لا المنتج الجاهز فحسب. والمبادرة مرتبطة أيضًا بالتزامات OpenAI بموجب اتفاق البيت الأبيض بشأن الذكاء الاصطناعي الفائق، الذي وافقت فيه الشركة على تقييمات مستقلة لإجراءات السلامة لديها. والتحفظات واضحة. فإطار المراجعة تحدده OpenAI نفسها: إذ تُذكر في حاشية أن المرحلة الأولى لدى METR أضيق من عرضها الخاص القائم على مسح واسع للمواءمة المفقودة. وحق تحرير التقارير يبقى بيد الشركة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…