كندا تطالب OpenAI بخطة سلامة بعد حادثة تتعلق بمراهق مطلق نار

أصدرت الحكومة الكندية إلى OpenAI طلباً صارماً: يجب على الشركة تقديم خطة أمان مفصلة بعد أن تبين أن مراهقاً من كولومبيا البريطانية استخدم ChatGPT لإعادة تمثيل سيناريوهات عنف — ولم تر OpenAI ضرورة لإخطار سلطات تنفيذ القانون. الحالة، كما أفادت وكالة Bloomberg، تطرح أمام صناعة الذكاء الاصطناعي بأكملها سؤالاً لا يملك أحد حتى الآن إجابة مريحة عليه: أين ينتهي الخصوصية والحفاظ على سرية المستخدم وتبدأ الالتزامات بمنع التهديدات الحقيقية؟

لم يتم الإفصاح بشكل كامل عن تفاصيل الحادث، لكن ما يلي معروف. كان مراهق من كولومبيا البريطانية يجري بشكل منتظم حوارات مع ChatGPT كان يعيد فيها تمثيل سيناريوهات تتضمن العنف. يبدو أن أنظمة الإشراف الخاصة بـ OpenAI قد اكتشفت هذا النشاط — لكن الشركة قررت عدم نقل المعلومات إلى الشرطة الكندية. لاحقاً، تبين أن المراهق كان مرتبطاً بحادثة إطلاق نار حقيقية. اعتبرت السلطات الكندية صمت OpenAI فشلاً خطيراً وتصر الآن على أن تقترح الشركة تدابير "ملموسة" لمنع تكرار ما يماثل هذه الحالة.

لفهم نطاق المشكلة، من الجدير التذكير بالسياق. هذه بعيدة كل البعد عن أول حالة يجد فيها ChatGPT نفسه في وسط فضيحة متعلقة بسلامة القاصرين. في عام 2024 في الولايات المتحدة، رفعت والدة مراهق دعوى قضائية ضد Character.AI بعد أن أنهى ابنها حياته — وفقاً لقولها، كان الروبوت الحواري يشجع نواياه الانتحارية. في نفس السنة، حدت عدة مناطق تعليمية في أمريكا وأوروبا من وصول الطلاب إلى أدوات الذكاء الاصطناعي التوليدي. قامت OpenAI بتحديث سياستها الأمنية بشكل متكرر، وقدمت قيوداً على السن وفلاتر للمحتوى. لكن الحادث الكندي يظهر أن المرشحات التقنية غير كافية — تتلخص المسألة في قرار بدائي: هل يجب على شركة ذكاء اصطناعي أن تتصرف كمخبرة لسلطات تنفيذ القانون؟

من الناحية القانونية، الوضع غامض للغاية. في معظم الولايات القضائية، تقع مسؤولية الإبلاغ عن التهديدات المحتملة على فئات معينة من المتخصصين — الأطباء، علماء النفس، المعلمون. لا تدخل شركات التكنولوجيا عموماً في هذه القائمة. قد بنت شبكات اجتماعية مثل Meta و Google منذ وقت طويل بروتوكولات للتفاعل مع الشرطة، خاصة في الحالات المتعلقة باستغلال الأطفال. لكن الذكاء الاصطناعي التوليدي إقليم مختلف بشكل جوهري. يجري المستخدم حواراً خاصاً مع نموذج، والمحتوى المتعلق بهذا الحوار محمي رسمياً بموجب سياسة الخصوصية. ربما وجدت OpenAI نفسها تواجه معضلة كلاسيكية: انتهاك خصوصية المستخدم لصالح الأمان المحتمل أو الامتثال لالتزامات حماية البيانات. اختارت الشركة الخيار الثاني — والآن تواجه العواقب.

موقف الحكومة الكندية، مع ذلك، ليس خالياً من التعقيدات أيضاً. يبدو الطلب بـ"خطوات ملموسة" حازماً، لكن ماذا يعني بالضبط؟ إذا أرادت كندا من OpenAI أن تنقل تلقائياً بيانات إلى الشرطة حول المستخدمين الذين تتضمن طلباتهم وصفاً للعنف، فهذا ينشئ سابقة للمراقبة الجماعية. يناقش ملايين الأشخاص يومياً مع ChatGPT حبكات من الكتب والأفلام وألعاب الفيديو التي يظهر فيها العنف. التمييز بين الطلب الإبداعي والتهديد الحقيقي هي مهمة قد لا ينجح بها حتى علماء النفس البشريون، ناهيك عن الخوارزميات. إذا كان الحديث يتعلق بإشراف يدوي على حالات مريبة، تظهر مسألة الحجم: يعالج ChatGPT مئات الملايين من الطلبات يومياً.

بالنسبة إلى OpenAI، يعيد هذا الحادث مخاطر سمعة وإستراتيجية تتجاوز بكثير كندا. توسع الشركة بنشاط وجودها في الأسواق الدولية، وسيطرح كل حكومة الآن نفس السؤال: ما الضمانات الأمنية التي يمكنكم تقديمها؟ يضع قانون الذكاء الاصطناعي الأوروبي بالفعل متطلبات صارمة على الأنظمة عالية الخطورة. قد يدفع السابقة الكندية الدول الأخرى إلى وضع بروتوكولات خاصة تلزم شركات الذكاء الاصطناعي بالتعاون مع سلطات تنفيذ القانون في حالات معينة. هذا، بدوره، سيتطلب من OpenAI و Anthropic و Google وغيرهم من الفاعلين إنشاء أقسام كاملة تتعامل مع الامتثال في عشرات الولايات القضائية في وقت واحد.

هناك أيضاً سؤال أعمق يطرحه هذا الحادث على المجتمع. أصبحت نماذج الذكاء الاصطناعي التوليدي مساحة للتعبير عن الذات لملايين الأشخاص — خاصة الشباب — في بعض الأحيان الأكثر صراحة من بين المتاحة. يخبر المراهقون الروبوتات الحوارية بأشياء لا يجرؤون على إخبار آبائهم أو أصدقائهم بها. إذا بدأت شركات الذكاء الاصطناعي بنقل هذه المحادثات إلى الشرطة، فإن الثقة بالتكنولوجيا ستنهار. إذا لم تفعل — فهي تخاطر بأن تصبح متواطئة في المآسي. قد لا يوجد وسط ذهبي هنا، وهذا بالضبط السبب في أن الحادث الكندي سيصبح نقطة تحول لصناعة بأكملها. ستضع الإجابة التي تقدمها OpenAI إلى أوتاوا المعيار — أو تظهر أنه لا يوجد معيار حتى الآن.