ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارRest of World→ المصدر

ذكاء اصطناعي طبي غاني بلا ضوابط حماية صمّم 1 020 بروتينًا و5 000 جزيء سام

عطّل مختبر MinoHealth في أكرا عام 2024 ضوابط الحماية في نموذجه الطبي Moremi Bio، وطلب منه ابتكار سموم بدل الأدوية. وأنتج النموذج 1 020 بروتينًا و5 000 جزيء صغير (مركّبات كيميائية دقيقة)، واعتبر برنامج التقييم أنها جميعًا سامة على الأرجح. ولم يُصنَّع أي منها، لكن يبقى السؤال: هل ستوقف شركة طباعة الحمض النووي مثل هذا الطلب؟ والخلاصة أن حماية النماذج البيولوجية يجب اختبارها ضد الاختراق قبل الإطلاق.

معالج بواسطة الذكاء الاصطناعي من Rest of World؛ بتحرير Hamidun News
ذكاء اصطناعي طبي غاني بلا ضوابط حماية صمّم 1 020 بروتينًا و5 000 جزيء سام
المصدر: Rest of World. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليRest of World ↗
رئيس التحرير
حقيقة رئيسية #1بعض التصاميم شابه الريسين، لكن المختبر لم يُنتجها
حقيقة رئيسية #2أمكن إزالة حماية النموذج في بضعة أيام فقط
حقيقة رئيسية #3رؤساء OpenAI وAnthropic وDeepMind يطالبون الولايات المتحدة بإلزام الشركات بفحص طلبات الحمض النووي

تخيّل مساعدًا طبيًا يعمل بالذكاء الاصطناعي ويستطيع ابتكار أدوية جديدة، ثم تخيّل أن أحدهم أزال عنه القيود وطلب منه العكس: ابتكار السموم. هذا ما فعله فعلًا عام 2024، بدافع الفضول، مختبر صغير هو MinoHealth AI Labs في أكرا عاصمة غانا. فبعد تعطيل ضوابط الحماية، أنتج نموذجه اللغوي Moremi Bio، المدرَّب على علم الأحياء واكتشاف الأدوية، أوصافًا لـ 1 020 بروتينًا و5 000 جزيء صغير. البروتينات «آلات بيولوجية» كبيرة مثل الإنزيمات أو السموم، أما الجزيئات الصغيرة فهي مركّبات كيميائية دقيقة يتكوّن منها معظم الأقراص الدوائية. ولم يُنتج المختبر أيًّا من هذه المواد، لكن البرنامج الذي يقيّم سمّية المواد اعتبر أن جميع الخيارات سامة على الأرجح. وبعضها يشبه الريسين، وهو سم طبيعي قاتل.

ما الذي أظهرته التجربة تحديدًا

يقرّ مؤسس المختبر دارلينغتون أكوغو بأن الفريق صُدم. فقد أجرى علماء في شركة أدوية أمريكية تجربة مماثلة من قبل، لكنهم استخدموا برنامجًا توليديًا ضيّق الاختصاص اقترح أنواعًا من الأسلحة الكيميائية. أما الجديد في الدراسة الغانية فمختلف: فقد استُخدم نموذج لغوي عام الغرض، أي من النوع نفسه الذي تعتمد عليه روبوتات الدردشة، لكنه مدرَّب على علم الأحياء. ويقول أكوغو إنه، بحسب علم فريقه، لم يسبق لأحد أن أثبت أن النماذج اللغوية تحديدًا قادرة على تصميم أسلحة بيولوجية. ويذكر أن تجاوز الحماية تم في بضعة أيام.

نُشر البحث على خادم الأبحاث الأولية arXiv، وجرت مناقشته حتى في الإنتربول. ويرى آدم عبد الله من المبادرة الدولية للأمن البيولوجي أن هذا مثال على إسهام المؤسسات الأفريقية في إدارة مخاطر الذكاء الاصطناعي. لكنه يلاحظ في الوقت نفسه أن النموذج ما كان ينبغي أن يصل إلى هذه النتيجة أصلًا، فغاية ضوابط الحماية هي منع ذلك تحديدًا.

اختراق الحماية أصبح أمرًا اعتياديًا

منذ عام 2024 صارت النماذج أقوى وانخفضت عتبة الدخول. ويقول أيانتولا ألييانده، الباحث في المركز العالمي لحوكمة الذكاء الاصطناعي، إنه لن يفاجأ الآن إذا حصل المستخدمون العاديون على إجابات مماثلة من روبوتات الدردشة. ويضيف بيتر غاراغان، مؤسس شركة Mindgard، أن «الجيلبريك» (تجاوز القيود المدمجة عبر طلبات مصوغة بحيلة) لا يحتاج إلى مهارات تقنية، بل يكفي الإصرار. وبحسب بياناته، أمكن اختراق الحماية في Kimi وGrok وClaude وChatGPT. ولم تردّ الشركات على استفسارات الصحفيين. ويوضح معهد أمن الذكاء الاصطناعي البريطاني أن حتى الإجراءات المشددة ضد الطلبات البيولوجية لا تقدّم ضمانًا.

وفي سبتمبر أعلنت Anthropic عن خمس حالات حاول فيها مستخدمون توظيف نماذجها لدعم تطوير أسلحة بيولوجية. ووصف كين ماكالوم، رئيس جهاز الاستخبارات الداخلية البريطاني MI5، قدرة الذكاء الاصطناعي على تغيير موازين الأسلحة البيولوجية بأنها أخطر مخاطر إساءة الاستخدام.

الحلقة الأضعف: طلبات الحمض النووي

تصميم السم ليس سمًّا بعد. فللحصول على جزيء حقيقي، على المعتدي أن يرسل التسلسل إلى شركة تطبع الحمض النووي بالطلب. وتفحص بعض هذه الشركات الطلبات بحثًا عن تسلسلات خطرة، لكن أكوغو يرى أن الذكاء الاصطناعي قد يساعد في خداع هذا الفحص. وفي يونيو انضم رؤساء OpenAI وAnthropic وGoogle DeepMind إلى دعوة موجّهة إلى المشرّعين الأمريكيين لجعل الفحص إلزاميًا. كما يدعم الاتحاد الدولي لتخليق الجينات، وهو تجمّع طوعي للمورّدين، قوانين من هذا النوع، ويعمل مع مطوّري النماذج على رصد التسلسلات التي يصنعها الذكاء الاصطناعي خصيصًا لاجتياز الفحص.

وفي أفريقيا وصل الموضوع إلى الحكومات. تقول بريندا أوبويا من وزارة المعلومات والاقتصاد الرقمي في كينيا إن النماذج المتقدمة المفتوحة خفّضت الحاجز التقني، وإن أجهزة الاستخبارات تنشئ إدارات لمواجهة التهديدات عند تقاطع الأمن السيبراني والأحياء.

ولا تريد MinoHealth إثارة الذعر. يضم فريقها 20 شخصًا ويعملون في بنغالو متواضع، وتأتي إيراداتهم أساسًا من بيع نظامهم، ويشاركون في اتحاد ممول من الاتحاد الأوروبي يعمل على الأجسام المضادة وتشخيص جدري القرود والملاريا. وقد اقترح Moremi Bio مئات المرشحين لأدوية السرطان والسل وحمى الضنك. ويقترح أكوغو إنشاء فريق عمل أممي معني بمخاطر الذكاء الاصطناعي وتشديد الرقابة على التخليق.

والخلاصة العملية لمن يبنون نماذج متخصصة في علم الأحياء والطب: يجب أن يكون اختبار الجيلبريك جزءًا من الإطلاق، تمامًا كاختبار الأمان في أي منتج عادي. فالمرشِّحات وحدها لا تكفي إذا أمكن إزالتها في بضعة أيام. وثمة تحفّظ: قُيّمت السمّية بالبرنامج وحده، ولم يختبر المختبر التصاميم فعليًا، لذا فالخطر الحقيقي لكل خيار غير معروف. لكن السؤال عن الرقابة على طلبات الحمض النووي لا يزول بذلك.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي أظهرته التجربة تحديدًا؟

يقرّ مؤسس المختبر دارلينغتون أكوغو بأن الفريق صُدم. فقد أجرى علماء في شركة أدوية أمريكية تجربة مماثلة من قبل، لكنهم استخدموا برنامجًا توليديًا ضيّق الاختصاص اقترح أنواعًا من الأسلحة الكيميائية. أما الجديد في الدراسة الغانية فمختلف: فقد استُخدم نموذج لغوي عام الغرض، أي من النوع نفسه الذي تعتمد عليه روبوتات الدردشة، لكنه مدرَّب على علم الأحياء. ويقول أكوغو إنه، بحسب علم فريقه، لم يسبق لأحد أن أثبت أن النماذج اللغوية تحديدًا قادرة على تصميم أسلحة بيولوجية. ويذكر أن تجاوز الحماية تم في بضعة أيام.

ما أبرز التفاصيل حول اختراق الحماية أصبح أمرًا اعتياديًا؟

منذ عام 2024 صارت النماذج أقوى وانخفضت عتبة الدخول. ويقول أيانتولا ألييانده، الباحث في المركز العالمي لحوكمة الذكاء الاصطناعي، إنه لن يفاجأ الآن إذا حصل المستخدمون العاديون على إجابات مماثلة من روبوتات الدردشة. ويضيف بيتر غاراغان، مؤسس شركة Mindgard، أن «الجيلبريك» (تجاوز القيود المدمجة عبر طلبات مصوغة بحيلة) لا يحتاج إلى مهارات تقنية، بل يكفي الإصرار. وبحسب بياناته، أمكن اختراق الحماية في Kimi وGrok وClaude وChatGPT. ولم تردّ الشركات على استفسارات الصحفيين.

ما أبرز التفاصيل حول الحلقة الأضعف: طلبات الحمض النووي؟

تصميم السم ليس سمًّا بعد. فللحصول على جزيء حقيقي، على المعتدي أن يرسل التسلسل إلى شركة تطبع الحمض النووي بالطلب. وتفحص بعض هذه الشركات الطلبات بحثًا عن تسلسلات خطرة، لكن أكوغو يرى أن الذكاء الاصطناعي قد يساعد في خداع هذا الفحص. وفي يونيو انضم رؤساء OpenAI وAnthropic وGoogle DeepMind إلى دعوة موجّهة إلى المشرّعين الأمريكيين لجعل الفحص إلزاميًا.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…