Anthropic: النماذج الصغيرة ستجعل ظهور ديدان ذاتية التكاثر ممكنًا مع مطلع 2027

حذّرت Anthropic من أن تطوّر نماذج الذكاء الاصطناعي الصغيرة قد يهيّئ، مع مطلع العام المقبل، الظروف لانتشار ديدان الذكاء الاصطناعي بصورة شبه خارجة عن السيطرة. وهذا الاسم يُطلق على برامج تتكاثر ذاتيًا وتنتقل إلى أجهزة جديدة دون تدخل بشري. وبحسب تقدير الشركة، سيكون إيقاف هذا الانتشار بالغ الصعوبة. ومن بين الأهداف المحتملة التي ذكرتها الخوادم وأجهزة التلفاز والأجهزة المنزلية. والأفق الزمني المقصود يُقاس بالأشهر لا بالسنوات.

لماذا تثير النماذج الصغيرة تحديدًا القلق

تستغل الدودة التقليدية ثغرة معروفة مسبقًا. ويجب أن يعرف مؤلفها سلفًا ما الذي ينبغي اختراقه، وأن يكتب شيفرة جديدة لكل منصة جديدة. أما دودة الذكاء الاصطناعي، إذا اتبعنا منطق تحذير Anthropic، فتستطيع التكيّف في موقع الهدف: تدرس الجهاز غير المألوف، وتختار طريقة الاختراق، ثم تنتقل إلى هدف آخر.

النماذج الكبيرة غير مناسبة لهذه المهمة. فهي تحتاج إلى وحدات GPU قوية وذاكرة كبيرة، وغالبًا إلى استدعاء API سحابي يستطيع المزوّد تتبعه وقطعه. أما النموذج المدمج فتركيبته مختلفة. فهو يعمل على عتاد متواضع وبصورة محلية، ولا يترك أثرًا في البنية التحتية التي يدخلها. ولهذا يصبح التقدم في تصغير النماذج إنجازًا تقنيًا وعامل خطر في آن واحد.

ما المعروف وما غير المعروف بعد

لا تتضمن النسخة العلنية المتاحة من التحذير تفاصيل كثيرة. وفيما يلي ما يمكن تأكيده استنادًا إلى البيانات المتاحة:

• مصدر التحذير: Anthropic، مطوّرة عائلة نماذج Claude.
• المهلة: قد تتشكل الظروف اللازمة للانتشار الواسع مع مطلع العام المقبل.
• الآلية: تكاثر ذاتي وإصابة أنواع جديدة من الأجهزة دون تدخل بشري.
• الأهداف المحتملة: الخوادم وأجهزة التلفاز والأجهزة المنزلية.
• تقييم الدفاع: سيكون حجب الانتشار بالغ الصعوبة.
• غير معلن: النماذج المحددة، وأحجام المعلمات، ومنهجية التقييم، واحتمالية حدوث السيناريو.

ولا يُعرف بعد ما إذا كان التوقع يستند إلى تجارب مخبرية أم إلى تحليل للتهديدات أم إلى نمذجة. ومن دون تقرير تقني، يصعب التمييز بين تقييم حقيقي للمخاطر وحيطة مفرطة.

حدث هذا من قبل، لكن بمقاييس مختلفة

الفكرة ليست جديدة. ففي عام 1988 عطّلت دودة موريس نحو ستة آلاف جهاز في إنترنت كان لا يزال صغيرًا للغاية، وأظهرت مدى السرعة التي تفلت بها الشيفرة ذاتية الانتشار من السيطرة. وفي عام 2024 عرض باحثو Cornell Tech دودة Morris II: دودة موجّهة إلى منظومات الذكاء الاصطناعي التوليدي، انتشرت في ظروف مخبرية عبر مساعدي البريد الإلكتروني المبنيين على نماذج لغوية، باستخدام موجّهات (prompts) تستنسخ نفسها. كانت تلك تجربة في بيئة خاضعة للتحكم، لكنها أثبتت المبدأ.

وثمة مشكلة منفصلة، هي أن عدد الأجهزة المتصلة تضاعف منذ ذلك الحين أضعافًا كثيرة. فأجهزة التلفاز والثلاجات والراوترات نادرًا ما تُحدَّث، ولا تخضع للمراقبة تقريبًا أبدًا. وهذه بيئة مناسبة لدودة قادرة على «التفكير» في موقع الهدف.

ما العمل منذ الآن

ينبغي لمديري الخوادم وأصحاب البنى التحتية الالتزام بقواعد النظافة الأمنية الأساسية، فهي تفيد سواء صدق التوقع أم لم يصدق:

• إعداد جرد بجميع الأجهزة المتصلة، بما فيها الأجهزة «الذكية» في المكاتب.
• عزل أجهزة IoT في شرائح شبكية منفصلة ومنعها من الوصول إلى الخوادم الداخلية.
• تعطيل الخدمات والواجهات البعيدة غير المستخدمة، وتغيير كلمات المرور الافتراضية.
• تفعيل مراقبة حركة البيانات الصادرة: فالجهاز المصاب يفضح نفسه باتصالات شاذة.
• تقييد صلاحيات وكلاء الذكاء الاصطناعي: لا تنفيذ للشيفرة ولا وصول إلى البريد الإلكتروني دون موافقة بشرية.

وعلى مطوري وكلاء الذكاء الاصطناعي أن يتذكروا دروس Morris II: أي نص يقرؤه الوكيل قد يكون أمرًا في الوقت نفسه. ويبقى انتظار التقرير التقني من Anthropic. فهو الذي سيحدد ما إذا كان التحذير سيتحول إلى نموذج عملي للتهديدات في الصناعة، أم سيظل طرحًا بلا أساس قائم على الأدلة.