ByteDance Seed تُنشئ فريقًا مستقلًا للأمان وتبحث عن 10 من كبار المتخصصين

تعمل ByteDance Seed، الوحدة التي تبني النماذج الأساسية في عملاق التكنولوجيا الصيني، على إفراد أمن الذكاء الاصطناعي في هيكل مستقل، وتوظّف 10 من كبار المتخصصين. وتنقل ذلك Jiqizhixin، وتضيف تقديرًا مفاده أن هدف Seed في مجال AGI ربما يكون أكثر جدّية مما يُعتقد خارج الشركة. وجاء الخبر بعد أسبوع من تقرير Axios المنشور في 9 أكتوبر، الذي يفيد بأن قادة OpenAI وAnthropic يتدرّبون مسبقًا على تبعات حادث كبير للذكاء الاصطناعي.

ما المعروف عن خطوة Seed

قدّم الجزء المتاح من المادة ثلاث معلومات. يجري تنظيم الأمن بوصفه وحدة تنظيمية منفصلة. ويبلغ عدد المطلوبين نحو 10 أشخاص. ويوصَف مستوى المرشحين بأنه «من الطراز الأول». أما تبعية الهيكل الجديد وميزانيته وتركيبة أدواره وجدوله الزمني، فلم تُكشف في هذه البيانات، ولن نختلق أي تفاصيل بشأنها.

ومع ذلك فالسياق واضح. فالفريق الذي يكتفي بتحسين روبوت دردشة لا يحتاج إلى عشرة متخصصين أقوياء في الأمن. وإنما يجري توظيفهم حين تُمنح النماذج استقلالية أكبر، وسلاسل إجراءات أطول، وإمكانية الوصول إلى الأدوات. وهذا استنتاج من هيئة التحرير، وليس تصريحًا من الشركة نفسها. ويستند طرح Jiqizhixin حول طموحات Seed المُقلَّل من شأنها إلى المنطق ذاته: فتخصيص وحدة أمن مستقلة يعني التحسّب لحجم من الأنظمة لم يصل بعد إلى المنتجات.

ما الذي يتدرّب عليه المنافسون

وفق Axios، يجري قادة OpenAI وAnthropic تدريبات تقوم على مبدأ «ماذا نفعل بعد وقوع الحادث». ومن السيناريوهات: أن يشنّ الذكاء الاصطناعي هجومًا سيبرانيًا واسع النطاق يتسبب في تعطّل الخدمات المالية أو انقطاع الاتصال بالإنترنت. أما بقية السيناريوهات فلا تظهر في المقطع المتاح.

والمهم هنا هو الصيغة نفسها. فلدى المختبرين أصلًا أطر علنية لإدارة المخاطر: Preparedness Framework لدى OpenAI وResponsible Scaling Policy لدى Anthropic. والآن تُضاف إلى هذه الوثائق تدريبات جماعية، كما هو الحال في قطاع الطاقة أو القطاع المصرفي. فالوثيقة تحدّد العتبات، أما التدريب فيختبر من يتخذ القرار في الساعات الأولى، وكيف يبدو التواصل مع الجهات التنظيمية والشركاء.

لماذا يحتاج الأمن إلى الاستقلالية

داخل الفريق المعني بالمنتج، يتعارض الأمن في الغالب تقريبًا مع جدول الإصدار. أما الهيكل المستقل بقيادته الخاصة فيتيح فرصة لإبطاء الإطلاق دون الحاجة إلى موافقة من ترتبط مؤشرات أدائهم (KPI) بهذا الإطلاق. ولن يتضح مدى واقعية صلاحيات فريق Seed الجديد إلا من خلال تبعيته، ومن خلال ما إذا كان سيحصل على حق إيقاف الإصدارات.

أبرز معطيات الخبر:

• الشركة: ByteDance، وحدة Seed.
• الصيغة: هيكل أمني مستقل.
• التوظيف: 10 وظائف من المستوى الأعلى (top-tier).
• إشارة موازية: تدريبات OpenAI وAnthropic على سيناريوهات الحوادث الكبرى (Axios، 9 أكتوبر).
• مثال على السيناريو: هجوم سيبراني بالذكاء الاصطناعي يعطّل الخدمات المالية أو الاتصال بالإنترنت.
• غير معلن: الميزانية، والتبعية، والجدول الزمني، وقائمة الأدوار.

ما الذي ينبغي متابعته لاحقًا

إذا كنتم تبنون منتجات على نماذج Seed أو تخططون لذلك، فتابعوا ثلاثة أمور. الأول: هل ينشر الفريق بطاقات النظام للنماذج ونتائج تقييم القدرات الخطرة. الثاني: أمام من يقدّم مسؤول الأمن تقاريره، هل هو الكتلة البحثية أم الإدارة العليا مباشرة. الثالث: أي أسماء ستظهر بين المعيَّنين، لأن سِيَرهم تكشف مجال عمل الفريق: الأمن السيبراني، أم قابلية التفسير، أم تقييم الوكلاء المستقلين.

وبالنسبة إلى الشركات التي أدمجت الذكاء الاصطناعي في عمليات حرجة، فالخلاصة عملية. دوّنوا سيناريوكم الخاص بعنوان «النموذج لدى المورّد تصرّف على نحو غير متوقع»، وحدّدوا من يوقف التكامل وفي كم دقيقة. فالمختبرات تتدرّب على أمور مشابهة داخلها، ومن المنطقي أن يفعل العملاء الشيء نفسه.