Anthropic وOpenAI تسعيان إلى التأثير في ما ينشره المدقّقون الخارجيون

ذكرت Reuters في 13 أكتوبر، نقلًا عن شخصين مطلعين، أن Anthropic وOpenAI تسعيان إلى نفوذ كبير على ما يحق للمراجعين الخارجيين لنماذجهما نشره. ووفق المصدرين، الدافع واحد لدى الشركتين: الخشية من أن تكشف نتائج الفحص أسرارًا تجارية. وثمة تفصيل محرج أيضًا، فقد وعد المختبران المقيّمين المستقلين، قبل وقت قصير جدًا، بمنحهم حرية التصرف.

ما المعروف حتى الآن

الوقائع الواردة في التقرير قليلة، وصياغتها حذرة. تتناول المفاوضات التي تحدث عنها مصدرا Reuters الشروط التي تحصل بموجبها جهات خارجية على إمكانية الوصول إلى النماذج وتنشر النتائج. ويريد المختبران أن يكون لهما رأي عند النشر. أما مدى اتساع هذا الرأي فلا يوضحه الجزء المتاح من المادة. ولم تُذكر أسماء مقيّمين بعينهم، ولا شكل القيود: اعتماد النص مسبقًا، أو حق التعديل، أو التأجيل، أو النقض المباشر.

وتنقطع مادة TNW الأصلية عند الإشارة إلى أن رئيس Anthropic، داريو أمودي، أدلى الشهر الماضي بتصريح ما. ولا يتضح من الجزء المتاح ما قاله بالضبط، لذلك لن أنقل ما ورد على لسانه.

أين ينشأ التعارض

لا يكون للتقييم الخارجي للنموذج معنى إلا إذا كان مطوّره لا يتحكم في النص النهائي. فإذا استطاع المختبر تلطيف الصياغات أو تأخير النشر، تحوّل التقرير إلى بيان صحفي متفق عليه يحمل شعارًا غير شعار صاحبه.

ومع ذلك فمخاوف المختبرين ليست مختلقة. فلكي يفحص المقيّم النموذج فحصًا جادًا، يحتاج إلى تفاعل عميق معه: أنماط وصول غير قياسية، ونسخ مبكرة، وتفاصيل عن سلوك النظام. ويمكن أن يُستخلص من التقرير الكثير عن أساليب التدريب والقرارات المعمارية ونقاط الضعف. وبالنسبة إلى شركات تتنافس على العملاء من قطاع الأعمال وعلى تقييمات تبلغ مئات المليارات من الدولارات، تُعد هذه معلومات حساسة.

ولدى القطاع نموذج جاهز للتسوية. ففي أمن المعلومات، يسري منذ زمن طويل مبدأ الإفصاح المنسّق عن الثغرات: يُمنح المورّد مهلة محددة للإصلاح (90 يومًا في Project Zero التابع لـ Google)، ثم ينشر الباحث النتيجة بصرف النظر عن موافقة المورّد. وبإمكان المختبرين المطالبة بالتحقق من الأخطاء الوقائعية، وبمراجعة النص للتأكد من عدم تسرب أسرار حقيقية. أما حق النقض على الاستنتاجات فمسألة مختلفة تمامًا.

ما ورد في التقرير

• المصدر: Reuters، مصدران مطلعان، وكلاهما مجهول الهوية.
• الأطراف: Anthropic وOpenAI.
• موضوع الخلاف: مدى التحكم في منشورات المراجعين الخارجيين.
• الحجة الرسمية للمختبرين: حماية الأسرار التجارية.
• التناقض: وعود علنية حديثة بمنح المقيّمين حرية التصرف.
• غير معروف: شروط العقود، وأسماء المقيّمين، وآلية الاعتماد.

كيف تُقرأ هذه الوعود عمليًا

بالنسبة إلى من يشترون النماذج، أو يضعون المتطلبات التنظيمية، أو يغطّون أخبار القطاع، الخلاصة واحدة: عبارة «التقييم المستقل» لا تعني شيئًا من دون معرفة شروط النشر. وهناك عدة أمور تستحق الانتباه.

الأول: ما الذي يُتفق عليه قبل صدور التقرير، الوقائع والأسرار أم صياغة الاستنتاجات. الثاني: هل توجد مهلة صارمة ينشر المقيّم بعدها النتيجة دون موافقة. الثالث: هل يجب أن يذكر التقرير أن جزءًا من المادة محجوب، ولأي سبب. الرابع: من يدفع للمقيّم. فالتمويل من الشركة الخاضعة للتقييم ليس عيبًا في حد ذاته، لكنه، حين يقترن بالتحكم في النص، يخلق تضاربًا في المصالح.

وما دام المختبران لم يكشفا علنًا عن الشروط، فمن المعقول التعامل مع تقارير الفحص الخارجي مع احتمال أنها خضعت لتحرير. وإذا كانت Reuters محقة، فإن الاختبار العملي المقبل بسيط: هل ستصدر عن المقيّمين تصريحات علنية بشأن الشروط التي عملوا بموجبها، وهل ستتطابق هذه الشروط مع ما وعدت به الشركتان سابقًا.