Baidu في المحكمة: هلوسات الذكاء الاصطناعي ليست سبباً للغرامة

تخيل أنك بنيت مسيرتك المهنية في القانون لسنوات، وبعد ذلك يومًا ما تدخل الإنترنت وتكتشف أن شبكة عصبية شهيرة تنسب إليك المشاركة في سلسلة من الجرائم. هذا هو بالضبط ما حدث للمحامي البكيني هوانج جويجن، الذي قرر أنه لن يتسامح مع تصرفات الخوارزميات. قاضى بايدو، مطالباً بمليون يوان كتعويض عن الضرر الذي لحق بسمعته التجارية.

مؤخراً، انعقدت جلسة الاستماع الأولى في محكمة منطقة هايديان، وتجبرنا حجج الدفاع عن بايدو على التفكير في نوع العالم الرائع الذي نعيش فيه. الشركة لا تنكر أن منتجها أنتج كذباً، لكنها تؤكد أن ذلك لم يكن مقصوداً. تتمحور الحجة الرئيسية لبايدو حول مصطلح "الهلوسات".

زعم محامو الشركة أن هذه الظاهرة مرحلة حتمية في تطوير أي نموذج لغة كبير. وفقاً لمنطقهم، بما أن التكنولوجيا في طور التحسين، فلا يجب أن يكون المطور مسؤولاً عن الأخطاء التي ترتكبها خلال هذه "الفترة الانتقالية". تؤكد بايدو أنها لم تكن لديها نية للإساءة للمحامي، وبالتالي لا يوجد تعدٍ.

هذا مثال كلاسيكي على كيف تحاول الشركات نقل المسؤولية من الموضوع إلى نقص الأداة، وتتظاهر بأن الذكاء الاصطناعي هو نوع من القوة الأولية التي لا يمكن السيطرة عليها بالكامل. السياق هنا في غاية الأهمية. تقع الصين حالياً في طليعة تنظيم الذكاء الاصطناعي، محاولة الموازنة بين دعم عمالقة التكنولوجيا لديها في السباق ضد الولايات المتحدة والسيطرة الصارمة على المعلومات.

إذا وقفت المحكمة مع بايدو، فستخلق سابقة خطيرة. في الأساس، سيعني ذلك أن أي شركة يمكنها إطلاق منتج خام في السوق يولد التشهير واستخدام التعقيد التقني للخوارزمية كعذر. من ناحية أخرى، إذا خسرت بايدو، ستواجه الصناعة موجة من الدعاوى القضائية.

يمكن أن تصبح كل كلمة خاطئة من محادثة بوت سبباً لتسويات بملايين الدولارات، مما يجبر المطورين على "تشديد البراغي" وجعل النماذج حذرة قدر الإمكان وربما أقل فائدة. من المثير للاهتمام كيف تحاول بايدو فصل التكنولوجيا عن المسؤولية. تؤكد أنها لم ترتكب انتهاكاً مباشراً أو غير مباشر للحقوق لأن توليد النصوص هو عملية تلقائية.

لكن هنا نواجه طريقاً مسدوداً منطقياً. إذا كانت شركة تحقق ربحاً من عمل هذه الخوارزمية وتروجها كمصدر موثوق للمعلومات، فلماذا يجب إعفاؤها من المسؤولية عندما تخطئ الخوارزمية؟ في وسائل الإعلام التقليدية، لا يمكن للمحرر أن يقول إن مقالة كاذبة كانت "هلوسة" الطباعة. لكن في عالم نماذج اللغة الكبيرة، لا تبدو القواعد القديمة تعمل، أو على الأقل تريد الشركات حقاً أن نصدق ذلك.

هذه المحاكمة في بكين ليست سوى الأولى من العديد من الحروب القضائية القادمة. بينما يدافع أوبن إيه آي وجوجل عن أنفسهما ضد دعاوى حقوق الطبع والنشر، تواجه بايدو مشكلة أكثر عملية لكنها ليست أقل أهمية - حماية شرف وكرامة شخص عادي. ستكشف نتيجة هذه القضية عن مدى أن يكون الذكاء الاصطناعي "ذكياً" و"غير مسؤول" في المجتمع الحديث.

إذا تم الاعتراف بالهلوسات كحق قانوني للآلات لارتكاب الأخطاء، فيجب علينا جميعاً الاستعداد لحقيقة أن الواقع الرقمي سيصبح أكثر عدم القدرة على التنبؤ والسمية. السؤال الرئيسي: هل ستصبح "الهلوسة" مصطلحاً قانونياً يعفي الشركات من المسؤولية، أم يجب على بايدو أن تدفع مقابل كل رمز كاذب?