تنسنت تقترح الجمع بين نماذج الذكاء الاصطناعي المفتوحة والمغلقة لتعزيز السلامة

تطلب من الذكاء الاصطناعي شرح أمر مشبوه في سجل خادم، فيرفض لأن الطلب يبدو كأنه مساعدة على الاختراق. هذه مشكلة عملية تمامًا بالنسبة إلى فريق الأمن. وقبل اعتماد مساعد من هذا النوع، من المفيد التحقق من قدرته على تحليل حوادث حقيقية، وتحديد المواضع التي تتطلب تدخلًا بشريًا.

بحسب The Decoder، نقلًا عن South China Morning Post، يقترح ياو شونيو، كبير باحثي الذكاء الاصطناعي في تنسنت، الجمع بين النماذج المفتوحة والمغلقة. ويحذر من المخاطر البيولوجية المستقبلية للذكاء الاصطناعي، لكنه يرى أن تقييد الوصول وحده لن يحل المشكلة. فمطورو أدوات الحماية يحتاجون هم أيضًا إلى نماذج ذات قدرات كافية.

من المهم هنا التمييز بين التوقع والملاحظة. فالتحذير من قدرة الذكاء الاصطناعي على تطوير أسلحة بيولوجية هو تقدير يقدمه الباحث. أما واقعة تحليل السجلات الواردة في المقال، فتوضح مشكلة أخرى أكثر تحديدًا: قد تمنع مرشحات السلامة إنجاز عمل مفيد.

ما الذي حدث أثناء تحليل الهجوم

بحسب المقال، استخدمت Hugging Face النموذج المفتوح GLM-5.2 لتحليل أوامر ظهرت ضمن آثار اختراق، بعدما رفضت نماذج مغلقة تحليلها. ويرى ياو في ذلك مثالًا يوضح حاجة القطاع إلى الحفاظ على إتاحة الوصول إلى النماذج المفتوحة.

تخيل مهندسًا يعثر على أمر غير مألوف في سجل. يحتاج إلى معرفة الملفات التي يؤثر فيها، وما إذا كان يتصل بخادم خارجي، والأحداث التي ينبغي البحث عنها في محيطه. في هذا السيناريو، يؤدي رفض المساعد إلى تأخير التحقيق، رغم أن الطلب يتعلق بحماية البنية التحتية.

لكن المقال يوضح أيضًا حدود هذا المثال. فقد ساهم النموذج في تحليل ما حدث. أما إيقاف الهجوم فتولاه المختصون: أصلحوا الثغرة، وأعادوا بناء الخوادم المتضررة، واستبدلوا بيانات الاعتماد. ولا يمكن الاستنتاج من هذه الواقعة أن نموذجًا مفتوحًا حمى المنصة بمفرده، أو أن مرشحات السلامة عديمة الفائدة.

هذا الفارق جوهري عند تصميم المنتج. فشرح أمر مشبوه، واقتراح إجراء تحقق، والحصول على صلاحية تعديل خادم تمثل ثلاثة مستويات مختلفة من المسؤولية. والنجاح في المستوى الأول لا يدل على استعداد النظام للمستويين الآخرين.

لماذا تعقّد الأوزان المفتوحة إجراءات الحماية

للنماذج المفتوحة جانب آخر: يستطيع من يمتلك أوزانها تغيير سلوكها. ويناقش المقال تقنية abliteration، وهي نهج لإضعاف سلوك الرفض الذي اكتسبه النموذج أثناء التدريب. لذلك لا يمكن اعتبار قيود النموذج ضمانة ثابتة لا تتغير بعد نشره.

تحتفظ الخدمة المغلقة بقدر أكبر من التحكم في الوصول ومعالجة الطلبات. لكن هذا التحكم يحتاج أيضًا إلى ضبط: فالحظر واسع النطاق أكثر من اللازم يطال استخدامات مشروعة. وينشأ عن ذلك تعارض عملي. يحتاج الفريق إلى أداة تساعده على دراسة الأفعال الخطرة، بينما يحتاج المزود إلى آلية تحد من تقديم المساعدة على تنفيذها.

ويُعد نقل الاستنتاجات مباشرة من الأمن السيبراني إلى علم الأحياء أمرًا محفوفًا بالمخاطر على نحو خاص. فكما يشير المقال، يصعب في هذا المجال الفصل بين القدرات الهجومية والدفاعية. ولا يثبت النجاح في تحليل سجلات الخوادم أن الإتاحة الحرة لأي قدرة أخرى ستحقق النتيجة نفسها.

وبحسب المقال، تستعد تنسنت لإصدار Hy4 بأوزان مفتوحة وتقرير عن السلامة. وتقول الشركة إن قدراته البيولوجية محدودة، وإنها أزالت قدرات الاختراق عبر تصفية بيانات التدريب. وتظل هذه، حتى الآن، ادعاءات ينبغي تقييمها استنادًا إلى المنهجيات والنتائج المنشورة وعمليات التحقق المستقلة. فوجود تقرير لا يثبت وحده سلامة النموذج.

ما الذي ينبغي التحقق منه قبل الاعتماد

الخلاصة العملية للمطور هي إضافة مهام حقيقية ومصرح بها إلى تقييم النموذج، لاختبار الحالات التي قد يرفضها دون مبرر. ومن أمثلتها شرح أوامر من سجلات منزوعة الهوية، وتحليل الشيفرة الخاصة بالفريق التي تتضمن ثغرات، وإعداد وصف للحادث. وينبغي تقييم فائدة الإجابة، ودقة الشرح، ومعدل حالات الحظر غير المبرر في الوقت نفسه.

ومن المفيد لفريق المنتج أن يحدد مسبقًا ما يحدث بعد الرفض: هل تُحال المهمة إلى مختص، أم يوضح المستخدم السياق، أم تُفعّل آلية تحقق متفق عليها؟ أما الانتقال التلقائي إلى نموذج ذي قيود أضعف، فيحتاج إلى مبرر مستقل وضوابط للتحكم في الوصول.

وعند اختيار المزود، ينبغي أيضًا معرفة البيانات التي تغادر البنية التحتية، ومن يستطيع الاطلاع على السجلات، وما الإجراءات المتاحة للمساعد. فإتاحة الأوزان تجيب عن جزء من هذه الأسئلة فقط. ويتطلب قرار الاعتماد اختبار سيناريو العمل المحدد، ووضع حدود واضحة للمسؤولية.