بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

Claude Mythos "اكتشف" ثغرة أمنية، لكنها كانت موجودة أصلًا في بيانات التدريب

تباهت Anthropic بأن Claude Mythos اكتشف واستغل "أول ثغرة استغلال عن بُعد في النواة يعثر عليها الذكاء الاصطناعي". يبدو الإعلان مبهرًا، لكن الباحثين دققوا فيه واكتشفوا إخفاقًا: فالأمر يتعلق بخلل مسجَّل برقم CVE عمره 20 عامًا، وكان موجودًا بالفعل في بيانات تدريب النموذج. وتثير هذه القصة تساؤلات حول الطريقة التي تروّج بها شركات الذكاء الاصطناعي لإنجازاتها في مجال الأمن السيبراني.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
Claude Mythos "اكتشف" ثغرة أمنية، لكنها كانت موجودة أصلًا في بيانات التدريب
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1الحد الفاصل بين الحفظ والاكتشاف — كيف نميّز ما حفظه النموذج عمّا اكتشفه فعلًا بصورة مستقلة؟
حقيقة رئيسية #2غياب التحقق المستقل — كيف نتأكد من أن الادعاءات الصاخبة بشأن إنجازات الذكاء الاصطناعي ليست مبالغًا فيها؟
حقيقة رئيسية #3نقص الشفافية — لماذا لا تكشف الشركات التفاصيل الكاملة للمنهجية كي يتسنى التحقق منها بشكل مستقل؟

أحدثت Anthropic ضجة إعلامية حين أعلنت أن أحدث نماذجها، Claude Mythos، اكتشف واستغل "أول ثغرة استغلال عن بُعد في النواة يكتشفها الذكاء الاصطناعي ويستخدمها". انتشر هذا الإعلان اللافت بسرعة في الأخبار. لكن عندما بدأ الباحثون بفحص التفاصيل، توصلوا إلى نتيجة محرجة: النموذج استحضر ببساطة ثغرة وردت في بيانات تدريبه. فقد كان الخلل عمره 20 عامًا، ومعروفًا لدى المتخصصين منذ زمن طويل.

ماذا أعلنت Anthropic

في ظل تنامي الاهتمام بقدرات نماذج اللغة المتقدمة في مجال الأمن السيبراني، قالت Anthropic إن Claude Mythos حدد بنفسه، أثناء الاختبار، ثغرة مسجَّلة برقم CVE (Common Vulnerabilities and Exposures) في نواة النظام، يمكن نظريًا استغلالها لتنفيذ التعليمات البرمجية عن بُعد. وبحسب رواية الشركة، كان ذلك مثالًا مبهرًا على قدرة الذكاء الاصطناعي المتقدم على اكتشاف تهديدات حقيقية قد يغفل عنها البشر.

وبدت القصة اختراقًا حقيقيًا في أتمتة الأمن السيبراني، وأشعلت موجة نقاشات حول الموعد الذي سيبدأ فيه الذكاء الاصطناعي باكتشاف الثغرات بصورة مستقلة.

ماذا وجد الباحثون عند التدقيق

حلّل فريق من الباحثين وصف هذه الواقعة، وتوصل إلى حقيقة غير مريحة. فالخلل المشتبه به ثغرة معروفة منذ زمن طويل، وكانت متاحة للعموم، ومن المرجح أنها أُدرجت في بيانات تدريب Mythos. بعبارة أخرى، لم يحقق النموذج أي اكتشاف مستقل، بل استحضر معلومات صادفها في مرحلة التدريب. الأمر أشبه بالتباهي بأن تلميذًا اكتشف بنفسه نظرية فيثاغورس، بينما هو في الواقع أعاد كتابة القانون من الكتاب المدرسي.

وتطرح هذه القصة عدة أسئلة جوهرية:

  • الحد الفاصل بين الحفظ والاكتشاف — كيف نميّز ما حفظه النموذج عمّا اكتشفه فعلًا بصورة مستقلة؟
  • غياب التحقق المستقل — كيف نتأكد من أن الادعاءات الصاخبة بشأن إنجازات الذكاء الاصطناعي ليست مبالغًا فيها؟
  • نقص الشفافية — لماذا لا تكشف الشركات التفاصيل الكاملة للمنهجية كي يتسنى التحقق منها بشكل مستقل؟

ما تعنيه القصة للقطاع

تُبرز هذه القصة مشكلة جوهرية: عندما يكون النموذج قد رأى البيانات أثناء التدريب، فإن "اكتشافه" لها مجددًا ليس سوى استحضار لها، وليس اكتشافًا جديدًا حقيقيًا. ومع تحوّل الذكاء الاصطناعي إلى أداة في مجالات حساسة مثل الأمن، يتعين على القطاع وضع معايير أكثر صرامة لتقييم النتائج. أما الادعاءات الصاخبة التي لا تقترن بشفافية المنهجية ولا بتحقق مستقل، فلا تؤدي إلا إلى تقويض الثقة بالقطاع وخلق توقعات غير واقعية بشأن قدرات النماذج الحالية.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا أعلنت Anthropic؟

في ظل تنامي الاهتمام بقدرات نماذج اللغة المتقدمة في مجال الأمن السيبراني، قالت Anthropic إن Claude Mythos حدد بنفسه، أثناء الاختبار، ثغرة مسجَّلة برقم CVE (Common Vulnerabilities and Exposures) في نواة النظام، يمكن نظريًا استغلالها لتنفيذ التعليمات البرمجية عن بُعد. وبحسب رواية الشركة، كان ذلك مثالًا مبهرًا على قدرة الذكاء الاصطناعي المتقدم على اكتشاف تهديدات حقيقية قد يغفل عنها البشر.

ما أبرز التفاصيل حول ماذا وجد الباحثون عند التدقيق؟

حلّل فريق من الباحثين وصف هذه الواقعة، وتوصل إلى حقيقة غير مريحة. فالخلل المشتبه به ثغرة معروفة منذ زمن طويل، وكانت متاحة للعموم، ومن المرجح أنها أُدرجت في بيانات تدريب Mythos. بعبارة أخرى، لم يحقق النموذج أي اكتشاف مستقل، بل استحضر معلومات صادفها في مرحلة التدريب. الأمر أشبه بالتباهي بأن تلميذًا اكتشف بنفسه نظرية فيثاغورس، بينما هو في الواقع أعاد كتابة القانون من الكتاب المدرسي.

ما أبرز التفاصيل حول ما تعنيه القصة للقطاع؟

تُبرز هذه القصة مشكلة جوهرية: عندما يكون النموذج قد رأى البيانات أثناء التدريب، فإن "اكتشافه" لها مجددًا ليس سوى استحضار لها، وليس اكتشافًا جديدًا حقيقيًا. ومع تحوّل الذكاء الاصطناعي إلى أداة في مجالات حساسة مثل الأمن، يتعين على القطاع وضع معايير أكثر صرامة لتقييم النتائج. أما الادعاءات الصاخبة التي لا تقترن بشفافية المنهجية ولا بتحقق مستقل، فلا تؤدي إلا إلى تقويض الثقة بالقطاع وخلق توقعات غير واقعية بشأن قدرات النماذج الحالية.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…