SemiAnalysis: المختبرات الصينية للذكاء الاصطناعي لا تكاد تنشر اختبارات السلامة لنماذجها

يكاد مطورو الذكاء الاصطناعي في الصين لا ينشرون نتائج فحص نماذجهم من ناحية السلامة. هذا ما خلصت إليه شركة الأبحاث SemiAnalysis. وتشير الشركة إلى أن المختبرات الصينية تتحفظ بشدة على مشاركة المعلومات حول كيفية اختبار أنظمتها ضد الاستخدام الخطر. ويأتي ذلك في ظل مخاوف متزايدة حول العالم من التطور السريع لنماذج الذكاء الاصطناعي المتقدمة. لا تتضمن المادة المتاحة بيانات كمية من التقرير، لكن الخلاصة نفسها مهمة: ففي قطاع تدور فيه المنافسة على كل نقطة مئوية في اختبارات benchmarks، يبقى قسم المخاطر في الغالب فارغًا.

ما الذي ينقص في المجال العلني؟

استقرت لدى كبرى المختبرات الغربية ممارسة معتادة: مع إطلاق النموذج الرائد تصدر وثيقة system card أو model card تصف تقييمات القدرات الخطرة، وفرق الاختبار الهجومي (red teams)، ونتائج فحوص إساءة الاستخدام، والقيود. يمكن الطعن في مضمون هذه الوثائق، لكنها توفر للخبراء الخارجيين مادة للمراجعة والمقارنة. أما الشركات الصينية فتنشر عادةً تقارير تقنية عن البنية والتدريب والنتائج في اختبارات المعرفة والرياضيات والبرمجة. وأقسام سلوك النموذج في سيناريوهات المخاطر البيولوجية والسيبرانية وغيرها من المخاطر الجسيمة قليلة هناك أو غائبة تمامًا.

ثمة استثناءات. ففي عام 2024، وقّعت شركات من دول مختلفة، بينها شركة Zhipu AI الصينية، التزامات طوعية في قمة سيول لسلامة الذكاء الاصطناعي. لكن الالتزام لا يساوي التقرير. فدون منهجية منشورة ونتائج معلنة، لا يمكن التحقق من تنفيذه.

لماذا تبدو المشكلة أشد في النماذج المفتوحة؟

يصدر جزء كبير من النماذج الصينية القوية بأوزان مفتوحة. وهذا ميزة للشركات: يمكنها نشر النموذج لديها وضبطه دون الاعتماد على API. لكن للانفتاح وجهًا آخر. فقيود الحماية التي يضمّنها المطوّر يمكن إزالتها بالضبط الدقيق بميزانية صغيرة. ولذلك يصبح تقييم المخاطر قبل الإصدار ونشر نتائجه بأمانة الوسيلة الوحيدة لفهم نقطة الانطلاق لدى من سيأخذ النموذج ويبني عليه.

وقد كشفت فحوص مستقلة عن مشكلات بالفعل. ففي مطلع عام 2025، أفاد باحثو Cisco بأن DeepSeek R1 لم تحجب أي طلب ضار من مجموعة HarmBench في اختبارهم. ثم نشر المعهد الأمريكي NIST لاحقًا تقييمه الخاص لـ DeepSeek، وتضمّن استنتاجات حول قابلية النموذج للاختراق (jailbreak) وللاستيلاء على الوكلاء (agent hijacking). وتجري هذه الأعمال جهات خارجية لا المطورون أنفسهم، وهذا بالضبط عدم التماثل الذي تتحدث عنه SemiAnalysis.

ما المعروف من المنشور

• صاحب الخلاصة: SemiAnalysis، شركة أبحاث متخصصة في الذكاء الاصطناعي وأشباه الموصلات.
• الجوهر: يتحفظ المطورون الصينيون على الكشف عن معلومات حول اختبارات سلامة النماذج.
• السياق: قلق عالمي من وتيرة تطور أنظمة الذكاء الاصطناعي المتقدمة.
• ما لا يتضمنه المقتطف المتاح: قائمة بالنماذج التي جرى فحصها، وأسماء الشركات، والتقييمات الرقمية.

ماذا تفعل الفرق التي تختار نموذجًا؟

إذا كنتم ستدمجون نموذجًا صينيًا في منتج، فغياب تقرير علني عن السلامة يعني أن عليكم إجراء التقييم بأنفسكم. والحد الأدنى لذلك: تشغيل اختبار خاص بطلبات jailbreak، واختبار prompt injection إذا كان للنموذج وصول إلى أدوات، وفحص سلوكه على بيانات قطاعكم. وفي السيناريوهات القائمة على الوكلاء، ينبغي تقييد صلاحيات الوصول والاحتفاظ بسجل للإجراءات. أما إصدارات open-weight فأضيفوا إليها طبقة ترشيح خارجية عند الإدخال والإخراج، دون الاعتماد على القيود المدمجة.

اطلبوا الوثائق من الموردين مباشرةً. وإذا لم يأتِ رد، فهذا أيضًا معطى في تقييم المخاطر. أما بالنسبة إلى السوق عمومًا، فالسؤال بسيط: هل يمكن أن يصبح الإفصاح عن نتائج الفحوص معيارًا مثل نشر نتائج benchmarks؟