مؤسس Moderna يطالب بتنظيم عاجل لوكلاء الذكاء الاصطناعي قبل وقوع أول كارثة

دعا نوبار أفيان، الشريك المؤسس في Moderna والملياردير القادم من عالم التقنية الحيوية، إلى تنظيم عاجل لوكلاء الذكاء الاصطناعي الذين تبيعهم شركات التكنولوجيا لعملائها بالفعل. وتستند حجته إلى تجربة قطاعه: إذا انتظرنا وقوع كارثة ثم كتبنا القواعد بعدها، فسيتكرر ما حدث في صناعة الأدوية. هذا ما نقلته Bloomberg.

المادة قصيرة. أما ما يقترحه أفيان تحديدًا (أي متطلبات، وأي جهة تنظيمية، وفي أي مهلة زمنية)، فلم يرد في النص المتاح. لذلك نكتفي أدناه بما هو معروف بالتأكيد، مع شرح لسبب اختيار المقارنة بقطاع الأدوية.

من المتحدث ولماذا يُصغى إليه

أفيان هو الشريك المؤسس ورئيس مجلس إدارة Moderna، ومؤسس استوديو رأس المال المخاطر Flagship Pioneering. وهو يعرف كيف يبدو مسار المنتج من المختبر إلى السوق الواسعة تحت إشراف جهات تنظيمية مثل FDA. ومن بين شركات Flagship شركات تستخدم الذكاء الاصطناعي في تطوير الأدوية. إنه صوت رجل ينتمي إلى قطاع شديد التنظيم، وهو في الوقت نفسه مهتم بتطور هذه التقنية.

ماذا يعلّمنا تاريخ صناعة الأدوية

نادرًا ما ظهرت قواعد الأدوية مسبقًا. وغالبًا ما سبقتها مأساة.

• عام 1937، الولايات المتحدة: دواء Elixir Sulfanilamide، الذي كان المذيب فيه سامًّا، أودى بحياة أكثر من مئة شخص. وأعقب ذلك صدور قانون عام 1938 الذي ألزم المصنّعين بإثبات سلامة الدواء قبل طرحه في السوق.
• أواخر الخمسينيات ومطلع الستينيات: تسبب الثاليدومايد في تشوهات خلقية لدى آلاف الأطفال حول العالم. وفي الولايات المتحدة جاء الرد في تعديلات كيفوفر وهاريس لعام 1962، التي أضافت شرط إثبات فعالية الدواء.

وفي الحالتين، أُنشئ نظام الرقابة في أعقاب الضرر. أما أفيان، بحسب ما أوردته Bloomberg، فيقترح ألا ننتظر السيناريو نفسه في حالة الذكاء الاصطناعي.

لماذا يختلف الوكلاء عن روبوتات الدردشة

روبوت الدردشة ينتج نصًا، ويقرر الإنسان ما يفعله به. أما الوكيل فيتصرف بنفسه: يشتري، ويكتب الشيفرة البرمجية وينفذها، ويرسل الرسائل، ويصل إلى أنظمة الشركات وحساباتها. وهنا يتحول خطأ النموذج إلى إجراء لا يمكن دائمًا التراجع عنه. وكلما زادت الصلاحيات الممنوحة للوكيل ارتفعت كلفة أي عطل، وصار من الأصعب تحديد المسؤول عنه: مطوّر النموذج، أم مزوّد المنصة، أم الشركة التي اعتمدت المنتج.

وفي معظم الولايات القضائية لا توجد حتى الآن سوى متطلبات قليلة خاصة بالوكلاء تحديدًا. فالأطر العامة للذكاء الاصطناعي موجودة، لكنها كُتبت للنماذج والأنظمة عمومًا، لا للبرامج التي تنفذ سلاسل من الإجراءات بشكل مستقل.

أبرز الحقائق

• من: نوبار أفيان، الشريك المؤسس في Moderna ومؤسس Flagship Pioneering.
• ماذا يطالب: بتنظيم عاجل لوكلاء الذكاء الاصطناعي الذين تبيعهم شركات التكنولوجيا.
• الحجة: انتظار الكارثة سيكرر أخطاء قطاع الأدوية.
• المصدر: Bloomberg، 13 أكتوبر 2026.
• لم يُكشف عنه: الإجراءات المحددة، والجهة التنظيمية، والجداول الزمنية.

ماذا تفعل الشركات التي تعتمد الوكلاء بالفعل

ليس من الضروري انتظار صدور قانون، فقطاع الأدوية يقدّم ممارسات عملية يمكن تطبيقها منذ الآن.

أولًا: قيّدوا الصلاحيات. ينبغي أن يحصل الوكيل على الحد الأدنى من الأذونات، وأن تتطلب العمليات التي لا يمكن التراجع عنها، مثل المدفوعات وحذف البيانات وإرسال الرسائل الخارجية، موافقة من إنسان.

ثانيًا: احتفظوا بسجل. يجب تدوين كل إجراء ينفذه الوكيل بحيث يمكن، بعد وقوع عطل، إعادة بناء سلسلة القرارات.

ثالثًا: أطلقوا الوكيل على مراحل. على غرار مراحل التجارب السريرية، ابدؤوا بمهمة محددة ومجموعة محدودة من المستخدمين، ولا توسّعوا نطاق المسؤولية إلا بعد الاختبار على بيانات حقيقية.

رابعًا: حدّدوا مسبقًا من يتحمل مسؤولية الضرر، وضمّنوا ذلك في العقود مع المزوّدين. وإذا جاء التنظيم، فستكون الشركات التي لديها تدقيق جاهز ومسؤولية واضحة في موقع أفضل.