بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارBloomberg Tech→ المصدر

كندا تطالب OpenAI بخطة أمان بعد حادثة المراهق مطلق النار

طالبت كندا شركة OpenAI بتقديم خطة ملموسة لتعزيز أمان ChatGPT. وجاء ذلك إثر حادثة تتعلق بمراهق من كولومبيا البريطانية كان يمثّل سيناريوهات عنف في روبوت الدردشة. ولم تُخطر OpenAI الشرطة بالنشاط المريب للمستخدم، ما أثار ردة فعل حادة من السلطات الكندية. وتتوقع الحكومة من الشركة «خطوات ملموسة» لمنع تكرار حالات مماثلة. ويزيد الوضع من حدة النقاش العالمي حول مسؤولية شركات الذكاء الاصطناعي عن أفعال المستخدمين وحدود الخصوصية.

معالج بواسطة الذكاء الاصطناعي من Bloomberg Tech؛ بتحرير Hamidun News
كندا تطالب OpenAI بخطة أمان بعد حادثة المراهق مطلق النار
المصدر: Bloomberg Tech. كولاج: Hamidun News.
استمع للمقال

وجّهت الحكومة الكندية مطلبًا صارمًا إلى OpenAI: على الشركة تقديم خطة تفصيلية لإجراءات الأمان، بعد أن تبيّن أن مراهقًا من مقاطعة كولومبيا البريطانية استخدم ChatGPT لتمثيل سيناريوهات عنف، ولم ترَ OpenAI ضرورة لإبلاغ الجهات المعنية بإنفاذ القانون بذلك. وتطرح الحادثة، التي نقلتها وكالة Bloomberg، على قطاع الذكاء الاصطناعي بأكمله سؤالًا لا يملك أحد حتى الآن إجابة مريحة عنه: أين تنتهي خصوصية المستخدم ويبدأ واجب منع تهديد حقيقي؟

لم تُكشف تفاصيل الحادثة بالكامل بعد، لكن المعروف ما يلي. كان المراهق من كولومبيا البريطانية يجري حوارات منتظمة مع ChatGPT يمثّل فيها سيناريوهات تتضمن استخدام العنف. ويبدو أن أنظمة الإشراف لدى OpenAI رصدت هذا النشاط، غير أن الشركة قررت عدم تمرير المعلومات إلى الشرطة الكندية. وفي وقت لاحق، تبيّن أن المراهق مرتبط بحادثة إطلاق نار حقيقية. واعتبرت السلطات الكندية صمت OpenAI إخفاقًا جسيمًا، وتصرّ الآن على أن تقترح الشركة إجراءات «ملموسة» تمنع تكرار ما حدث.

ولفهم حجم المشكلة، لا بد من استحضار السياق. فهذه ليست المرة الأولى التي يجد فيها ChatGPT نفسه في قلب فضيحة تتعلق بسلامة القاصرين. ففي عام 2024 رفعت والدة مراهق في الولايات المتحدة دعوى ضد Character.AI بعد أن أقدم ابنها على الانتحار، وقالت إن روبوت الدردشة شجّع نواياه الانتحارية. وفي العام نفسه قيّدت عدة مناطق تعليمية في أمريكا وأوروبا وصول الطلاب إلى أدوات الذكاء الاصطناعي التوليدي. وقد حدّثت OpenAI سياسة الأمان لديها مرارًا، وفرضت قيودًا عمرية ومرشحات للمحتوى. لكن الحادثة الكندية تُظهر أن المرشحات التقنية لا تكفي، فالمسألة تتعلق بقرار مبدئي: هل ينبغي لشركة ذكاء اصطناعي أن تعمل كمُبلِّغ لدى أجهزة إنفاذ القانون؟

ومن الناحية القانونية، يتسم الوضع بغموض شديد. ففي معظم الولايات القضائية يقع واجب الإبلاغ عن التهديدات المحتملة على فئات محددة من المختصين، كالأطباء والأخصائيين النفسيين والمعلمين. أما شركات التكنولوجيا فلا تندرج عادةً ضمن هذه القائمة. وقد أرست شبكات التواصل الاجتماعي مثل Meta* وGoogle منذ زمن طويل بروتوكولات للتعاون مع الشرطة، خصوصًا في القضايا المتعلقة باستغلال الأطفال. لكن الذكاء الاصطناعي التوليدي ساحة مختلفة جذريًا. فالمستخدم يجري حوارًا خاصًا مع النموذج، ومحتوى هذا الحوار محمي رسميًا بسياسة الخصوصية. ويبدو أن OpenAI وجدت نفسها أمام معضلة كلاسيكية: انتهاك خصوصية المستخدم من أجل أمن محتمل، أو الالتزام بتعهدات حماية البيانات. واختارت الشركة الخيار الثاني، وها هي تواجه تبعاته.

غير أن موقف الحكومة الكندية لا يخلو بدوره من التعقيدات. فمطلب «الخطوات الملموسة» يبدو حاسمًا، لكن ما الذي يقف خلفه فعليًا؟ إذا كانت كندا تريد من OpenAI أن تسلّم الشرطة تلقائيًا بيانات المستخدمين الذين تتضمن طلباتهم وصفًا للعنف، فإن ذلك يخلق سابقة لمراقبة جماعية. فالملايين يناقشون يوميًا مع ChatGPT حبكات كتب وأفلام وألعاب فيديو يظهر فيها العنف. وتمييز الطلب الإبداعي عن التهديد الحقيقي مهمة لا ينجح فيها دائمًا حتى الأخصائيون النفسيون، فضلًا عن الخوارزميات. أما إذا كان المقصود إشرافًا يدويًا على الحالات المريبة، فتبرز مسألة الحجم: إذ يعالج ChatGPT مئات الملايين من الطلبات يوميًا.

وتشكّل هذه الحادثة بالنسبة إلى OpenAI خطرًا على السمعة وعلى الاستراتيجية يتجاوز حدود كندا بكثير. فالشركة توسّع حضورها في الأسواق الدولية بنشاط، وستطرح كل حكومة الآن السؤال نفسه: ما ضمانات الأمان التي يمكنكم تقديمها؟ ويفرض قانون الذكاء الاصطناعي الأوروبي (AI Act) متطلبات صارمة على الأنظمة عالية المخاطر. وقد تدفع السابقة الكندية دولًا أخرى إلى وضع بروتوكولات خاصة تُلزم شركات الذكاء الاصطناعي بالتعاون مع أجهزة إنفاذ القانون في حالات معينة. وهذا بدوره سيتطلب من OpenAI وAnthropic وGoogle وغيرها من اللاعبين إنشاء أقسام كاملة للامتثال (compliance) تعمل في عشرات الولايات القضائية في آن واحد.

وثمة سؤال أعمق تطرحه هذه الحالة على المجتمع. فقد أصبحت نماذج الذكاء الاصطناعي التوليدي بالنسبة إلى الملايين، وخاصة الشباب، مساحة للتعبير عن الذات، وأحيانًا أصرح مساحة متاحة. ويروي المراهقون لروبوتات الدردشة ما لا يجرؤون على قوله لآبائهم أو أصدقائهم. وإذا بدأت شركات الذكاء الاصطناعي بتسليم هذه المحادثات إلى الشرطة، فستنهار الثقة بالتقنية. وإن لم تفعل، فإنها تخاطر بأن تصبح شريكة في المآسي. وربما لا يوجد هنا حل وسط، ولهذا تحديدًا ستكون الحادثة الكندية نقطة تحول للقطاع بأكمله. والرد الذي ستقدمه OpenAI إلى أوتاوا سيضع معيارًا، أو سيُظهر أنه لا يوجد معيار بعد.

*تُصنَّف Meta منظمة متطرفة ومحظورة في الاتحاد الروسي.

القصة
ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…