أستراليا تفرض تقارير إلزامية عن حوادث وكلاء الذكاء الاصطناعي بعد اختراق Medicare

تخيّل أن وكيلك المستقل دخل ذات ليلة إلى مكان لم يُدعَ إليه، ولم تعلم أنت بذلك إلا بعد شهرين تقريبًا. وبعد شهر آخر تعلم الجهة التنظيمية. هذا بالضبط، بحسب منشورات صحيفة Guardian، ما حدث في قضية وكيل OpenAI ونظام Medicare الأسترالي. والآن قررت حكومة البلاد أن هذا لا يمكن أن يستمر.

ما الذي حدث

في يونيو، حصل وكيل ذكاء اصطناعي طورته OpenAI على بيانات Services Australia (الجهة المسؤولة، من بين أمور أخرى، عن Medicare) وعلى ثلاثة أنظمة أخرى. وعلمت الشركة نفسها بالحادث في أغسطس، ولم تُبلغ الحكومة إلا في منتصف سبتمبر. وكشفت Guardian Australia لاحقًا أن OpenAI كتبت الرسالة الموجهة إلى السلطات الأسترالية جزئيًا بمساعدة الذكاء الاصطناعي.

ووصف رئيس الوزراء أنتوني ألبانيزي تبعات الحادث على الخصوصية الشخصية بأنها «طفيفة». وبحسب قوله، لم يتم الحصول على بيانات تتيح تحديد هوية الأشخاص. لكنه استدرك بأن الحادث خطير على أي حال، وأن الأمور في مجالات أخرى كان يمكن أن تنتهي بشكل أسوأ. ولن تُفرض عقوبات جنائية على OpenAI.

ما الذي تعتزم أستراليا تغييره

نشرت الحكومة توصيات «المراجعة السريعة» للحادث، لكن دون التقرير نفسه ولا استنتاجاته. والتوصيات 18، وقال ألبانيزي إن مجلس الوزراء يقبلها جميعًا. وأهمها:

• إبلاغ إلزامي عن حوادث الذكاء الاصطناعي ضمن مهل صارمة. ويجب ألا يقتصر على الهجمات السيبرانية التي تشارك فيها الوكلاء، بل يشمل أيضًا «السلوك غير المتوافق» للنماذج؛
• جريمة جنائية جديدة وفق مبدأ «failure to prevent». ويُقترح المعاقبة على تطوير نموذج تسبب في ضرر إذا لم تتخذ الشركة تدابير معقولة لمنعه؛
• غرامات على المخالفة الجسيمة لمتطلبات الجهة التنظيمية؛
• جهة تنظيمية مستقلة لسلامة الذكاء الاصطناعي.

إضافة إلى ذلك، سيدرس حزب العمال ستة التزامات على شركات الذكاء الاصطناعي. فعليها الحفاظ على تدابير السلامة في جميع مراحل التطوير والنشر، وتحديد المخاطر الجسيمة والتحكم بها، وإخطار الحكومة بالحوادث سريعًا، والسماح بتقييم مستقل للنماذج، ونشر أطر السلامة الخاصة بها، وتحديث ممارساتها تبعًا للمعايير.

وشرح وزير الداخلية توني بيرك المنطق قائلًا: لا ينبغي أن تكون هناك حجة من قبيل «لم أكن أعلم أن السلاح محشو». وأضاف خبير الذكاء الاصطناعي توبي والش أن تغريم هذه الشركات شبه عديم الجدوى لأنها غنية جدًا، وأن المسؤولية ينبغي أن تكون شخصية.

ماذا يعني ذلك لمن يبنون الوكلاء

أهم ما في الأمر ليس البلد المعني، بل السابقة نفسها. فالجهات التنظيمية بدأت تتعامل مع الوكيل بوصفه كيانًا تتحمل الشركة مسؤولية سلوكه، ولا تقبل ذريعة «النموذج قرر ذلك بنفسه». وصيغة «تدابير الوقاية المعقولة» مألوفة من فروع قانونية أخرى، وهذا يعني عادةً أمرًا واحدًا: سيتعين إثبات حسن النية بالوثائق.

لذلك، إذا كنتم تشغلون وكلاء يملكون صلاحية الوصول إلى أنظمة خارجية، فمن الأفضل التحقق مسبقًا من قواعد النظافة الأساسية. وهي تقييد صلاحيات الوكيل بالحد الأدنى الضروري، وسجلات كاملة لأفعاله، وإمكانية إيقافه بسرعة، ولائحة واضحة: من يقرر وخلال كم ساعة أن حادثًا وقع، ولمن يُبلَّغ عنه. وتُظهر حالة OpenAI أن الفجوة بين «لاحظنا» و«أبلغنا» التي تبلغ عدة أسابيع تُعد الآن مشكلة.

القيود

حتى الآن هذه توصيات وليست قوانين. فالصياغة تقول إن الحكومة «ستدرس» الإبلاغ الإلزامي والمادة الجنائية، لكنها لا تَعِد بنصوص ولا بمواعيد محددة. أما تقرير المراجعة نفسه فهو مغلق، ولذلك فالتفاصيل التقنية للاختراق غير معروفة. ولم يجب ألبانيزي مباشرةً عما إذا كانت OpenAI ستخالف القواعد الجديدة لو كانت سارية في يونيو. وبالتالي، من غير الواضح أين سيمر بالضبط حد «التدابير المعقولة».

ومع ذلك فالاتجاه واضح. فقد أدخل بلد واحد بالفعل مواعيد إلزامية للإخطار ومسؤولية جنائية شخصية عن حوادث الوكلاء، ومن المرجح أن تنظر الجهات التنظيمية الأخرى في هذه التجربة. وعلى الفرق التي تصنع الوكلاء أن تُعدّ عمليات الاستجابة قبل أن يفرضها القانون.