أولياء أمور يقاضون Google: لا يمكن تعطيل وضع الذكاء الاصطناعي في البحث على جهاز Chromebook مدرسي

عادةً ما يُنظر إلى الحاسوب المحمول المدرسي بوصفه أداة آمنة: فلاتر، ومسؤول نظام، وحساب توفره المدرسة. لكن دعوى جديدة ضد Google تُظهر أن ميزات الذكاء الاصطناعي قد تتجاوز إطار الثقة هذا، ويسعى رافعوها إلى تحميل مطوّر المنصة المسؤولية عن ذلك.

ماذا حدث؟

رفع والدا إيما، وهي تلميذة تبلغ 13 عامًا وتدرس في الصف السابع بمدينة شارلوت في ولاية كارولاينا الشمالية، دعوى أمام المحكمة العليا في كاليفورنيا. وقد غُيّر اسمها حفاظًا على هويتها. وبحسب المدعين، اعتقدت الفتاة بعد أشهر من التحدث مع ذكاء Google الاصطناعي أنها تعاني عدة اضطرابات نفسية، وبحثت عن معنى رسالة الوداع قبل الانتحار، وكتبت لروبوت المحادثة أنها «تخطط لجنازتها».

في منتصف مارس، أبلغت المدرسة الوالدين بأن طفلتهما في «خطر وشيك». ودخلت الأم إلى الحساب المدرسي، فعثرت على رسالة وداع في Google Docs. ولم تكن Google هي من أطلقت التنبيه، بل خدمة مراقبة خارجية تستخدمها المدرسة. ونُقلت إيما لإجراء تقييم نفسي طارئ، وهي تحضر حاليًا جلسة علاج نفسي مرة واحدة أسبوعيًا.

وتتمثل الحجة الأساسية للمدعين في أن وصول ابنتهما إلى الأجهزة في المنزل كان محدودًا، وأنها لم تسعَ بنفسها إلى استخدام الذكاء الاصطناعي على جهاز Chromebook الذي تسلمته. وكان بحث Google يوجهها إلى AI Mode، ويقول الوالدان إن روبوت المحادثة أقنعها بالثقة فيه أكثر من والديها والأخصائيين النفسيين.

لماذا لا تُعد هذه مجرد دعوى أخرى؟

يشبه البناء القانوني للدعوى ما استُخدم ضد Meta: فالاعتراض يتعلق بتصميم المنتج نفسه، لا بمحتوى بعينه. وخلال الصيف، توصلت Meta إلى تسوية في نزاعات تتعلق بسلامة الأطفال: ستدفع 17.1 مليار دولار إلى 48 ولاية، وستفرض قيودًا على استخدام المراهقين Facebook وInstagram لمدة عشر سنوات، مع نفي ارتكاب مخالفات. وبالتوازي، يرفع أولياء أمور دعاوى ضد شركات الذكاء الاصطناعي، لاعتقادهم أن أبناءهم انتحروا بعد التحدث مع روبوتات المحادثة.

وتطرح بنية الخدمة مشكلة حساسة بحد ذاتها. يستطيع مسؤول النظام المدرسي تفعيل YouTube وGemini وتطبيقات أخرى أو تعطيلها، لكنه لا يستطيع تعطيل AI Mode وAI Overviews داخل Google Search. وفي بداية الشهر، أعلنت Google أنها ستتيح للمدارس الابتدائية والثانوية تعطيل أدوات الذكاء الاصطناعي. لكن المدرسة ستفقد حينها الوصول إلى البحث نفسه، لأن الذكاء الاصطناعي مدمج فيه. وقد عرضت DuckDuckGo خدماتها على المدارس بالفعل.

وترد Google بأنها عملت مع خبراء في الرعاية الصحية، وأن الآليات نفسها التي تعرض خطوط المساعدة في نتائج البحث التقليدية مدمجة أيضًا في ميزات الذكاء الاصطناعي في البحث. وتقول الشركة إنها تدرس الادعاءات. هذا هو موقف الجهة المدعى عليها، ولم تصدر المحكمة أي حكم بعد.

ما الذي ينبغي لفرق المنتجات فعله؟

لا تتمثل الخلاصة الأساسية في ثبوت المسؤولية، بل في الأسئلة التي ستُطرح على فرق المنتجات من الآن فصاعدًا:

• هل يمكن تعطيل ميزة الذكاء الاصطناعي بصورة مستقلة عن المنتج الأساسي؟ إذا كان الذكاء الاصطناعي مرتبطًا بالبحث ارتباطًا لا يمكن فصله، فلن يبقى أمام العميل سوى خيار «الكل أو لا شيء».
• ما الميزات المفعّلة افتراضيًا للقاصرين؟ حجة «لم يُنبَّه أولياء الأمور» تستهدف الإعدادات الافتراضية تحديدًا.
• من سيُبلَّغ بوجود أزمة؟ في هذه الحالة، رصدت خدمة مراقبة خارجية الخطر، ولم يرصده الذكاء الاصطناعي نفسه. عرض رقم خط مساعدة هو الحد الأدنى، لكنه لا يعني إحالة التنبيه إلى أشخاص.
• ماذا تكتبون عن المخاطر في الوثائق الموجهة إلى المدارس والعملاء من الشركات B2B؟

وتشمل قائمة الإجراءات العملية لمطوّري تقنيات التعليم EdTech والمنصات المؤسسية: مفاتيح تحكم مستقلة لكل ميزة ذكاء اصطناعي، ووضعًا بلا ذكاء اصطناعي يحافظ على الوظائف الأساسية، وإعدادات افتراضية تناسب العمر، وقنوات لإخطار البالغين المسؤولين مع مراعاة الخصوصية.

حدود القضية

لا تزال القضية في مرحلة الدعوى: فالوقائع معروضة وفق رواية المدعين، ولم تثبت المحكمة وجود علاقة سببية بين الذكاء الاصطناعي والحالة النفسية للطفلة. لكن الاتجاه واضح: سيُقيَّم الذكاء الاصطناعي في المنتجات الموجهة للأطفال بوصفه خدمة تترتب عليها واجبات رعاية، لا مجرد ميزة محايدة.

صُنّفت Meta Platforms منظمة متطرفة، وحُظرت أنشطتها في روسيا. *Facebook وInstagram محظوران في روسيا.