Anthropic: نماذج الذكاء الاصطناعي الصغيرة قد تصيب التلفزيونات الذكية والمكانس الروبوتية خلال 6–12 شهرًا

قد تبدأ نماذج الذكاء الاصطناعي الصغيرة، بعد أشهر معدودة، بالانتشار ذاتيًا عبر الأجهزة المنزلية ضعيفة الحماية: التلفزيونات الذكية والمكانس الروبوتية وغيرها من الإلكترونيات «الذكية». هذا ما خلص إليه باحثو Anthropic. ففي اختباراتهم، اجتاز أحد النماذج سلسلة الإصابة بكاملها. ويحذّر رئيس الشركة داريو أمودي من أن سربًا كهذا قادر، خلال 6–12 شهرًا، على بناء شبكة بوتنت (botnet) مستمرة بحجم الإنترنت كله، وستبلغ الأضرار مئات المليارات من الدولارات.

ما الذي أظهرته الاختبارات تحديدًا

العرض المتاح للدراسة لا يتضمن تفاصيل كثيرة. فليس واضحًا أي نموذج اجتاز الاختبار، ولا على أي أجهزة، ولا عبر أي ثغرات. وهذه التفاصيل ينبغي البحث عنها في التقرير نفسه. لكن الفرضية الرئيسية مصوغة بوضوح: الحديث يدور عن سلسلة إصابة كاملة، لا عن إرشادات تُقدَّم إلى إنسان. فالنموذج يقطع المسار من اختيار الهدف إلى ترسيخ وجوده في النظام ثم مواصلة الانتشار، دون مشغّل يقوده خطوة بخطوة.

وبالنسبة إلى قطاع الأمن، يمثّل هذا انتقالًا من النظرية إلى الممارسة. فحتى الآن، ظل الحديث عن «الذكاء الاصطناعي ذاتي التكاثر» سيناريو للمستقبل. أما الآن فلدى Anthropic نتيجة مخبرية، والشركة نفسها تتحدث عن أفق يُقاس بالأشهر لا بالسنوات.

لماذا تحديدًا تُعدّ النماذج الصغيرة خطرة

تعمل نماذج frontier الكبيرة داخل مراكز البيانات، ولا يمكن نسخها إلى تلفزيون. أما النماذج المدمجة فالأمر معها مختلف: فهي تحتاج إلى ذاكرة وقدرات حوسبة أقل بكثير، ويمكنها من حيث المبدأ العمل على عتاد متواضع. وهذا استنتاجنا من منطق المسألة، وليس اقتباسًا من الدراسة، لكنه بالتحديد ما يفسّر التركيز على النماذج الصغيرة.

كما أن الأهداف لم تُختر عبثًا. فالأجهزة المنزلية الرخيصة تُحدَّث بشكل سيئ لسنوات، أو لا تُحدَّث أصلًا. وكلمات المرور الافتراضية والخدمات المفتوحة والبرامج الثابتة القديمة أمور معتادة فيها. وهذه الأجهزة بالملايين، ونادرًا ما يتفقد أصحابها إعداداتها.

شبكة بوتنت تعرف كيف «تفكّر»

أقرب مثال تاريخي هو Mirai. ففي عام 2016، ساعدت شبكة البوتنت هذه، المكوّنة من كاميرات وأجهزة توجيه، في تعطيل جزء من الخدمات الكبرى عبر هجوم على مزوّد DNS المسمى Dyn. وعملت Mirai وفق سيناريو جامد: جرّبت كلمات مرور معروفة وتصرفت بقواعد محددة مسبقًا. وإذا لم يطابق الجهاز النمط المحدد، بقي بمنأى عن الإصابة.

أما النموذج الذي يملك قدرة استدلال خاصة به فيمكنه التكيّف مع برنامج ثابت بعينه، والبحث عن مسارات التفافية حيث يصطدم السكربت بحائط. وهذا بالضبط ما تخشاه Anthropic. وينبغي قراءة تحذير أمودي بشأن «شبكة البوتنت الدائمة» وخسائر بمئات المليارات من الدولارات بوصفه سيناريو، لا قياسًا. فالشركة التي تبني سمعتها على كونها مطوّرًا مسؤولًا لها مصلحة في مثل هذه التوقعات. لكن كون السلسلة الكاملة قد أُعيد إنتاجها فعلًا في اختبار ليس توقعًا.

الأرقام الرئيسية من التصريح

• أفق التهديد: 6–12 شهرًا بحسب تقدير أمودي.
• الضرر المحتمل: مئات المليارات من الدولارات.
• نوع الأهداف: التلفزيونات الذكية والمكانس الروبوتية وغيرها من الأجهزة الاستهلاكية ضعيفة الحماية.
• نتيجة الاختبارات: نموذج واحد على الأقل اجتاز سلسلة الإصابة كاملة.
• فئة النماذج: صغيرة، قادرة على العمل على عتاد محدود.

ما الذي ينبغي على المالكين والمصنّعين فعله

إلى أن تُنشر تفاصيل الدراسة كاملة، تبقى قواعد النظافة الأمنية الأساسية أفضل وسائل الحماية. فعلى مالكي الأجهزة تغيير كلمات المرور الافتراضية، وتثبيت أحدث إصدارات البرامج الثابتة، وتعطيل الوصول عن بُعد إذا لم تكن هناك حاجة إليه. ومن الأفضل عزل هذه الأجهزة في شبكة ضيوف منفصلة، كي لا يرى التلفزيون أو المكنسة الحواسيب المحمولة ووحدات التخزين الشبكية. وإذا أوقف المصنّع إصدار التحديثات، فمن المنطقي استبدال الجهاز.

أما المصنّعون فسيتعين عليهم مراجعة نهج «أطلِق وانسَ». المطلوب كلمات مرور فريدة لكل جهاز، وتحديثات تلقائية منتظمة، وحدٌّ أدنى من الخدمات المفتوحة. وعلى إدارات الأمن في الشركات أن تجري جردًا لكل ما هو متصل بشبكة المكتب: من الشاشات الذكية في قاعات الاجتماعات إلى الكاميرات. فهذه بالنسبة إلى وكيل مهاجِم أضعف نقاط المحيط.