Google حدّثت Gemini: وصول سريع إلى المساعدة النفسية في الأزمات

حدّث غوغل واجهة جيميني، مما يسّر الوصول إلى موارد مساعدة نفسية في الأزمات. التغيير صغير نسبياً: تسميه الشركة إعادة تصميم وليس ميزة جديدة. لكن السياق الذي يظهر فيه يجعله مهماً — تواجه غوغل حالياً دعوى قضائية بشأن وفاة مستخدم تتهم عائلته روبوت الدردشة بالمساهمة في الانتحار.

قبل التحديث، كان جيميني قادراً بالفعل على الاستجابة لعلامات الأزمة. إذا أظهرت المحادثة علامات على التفكير الانتحاري أو إيذاء النفس، كان روبوت الدردشة يعرض وحدة "المساعدة متاحة" — كتلة تحتوي على جهات اتصال خدمات الأزمات: خط الدعم الهاتفي أو محادثة نصية مع مستشار. كانت المشكلة في الواجهة: كان الطريق للوصول إلى المساعدة يستغرق عدة خطوات.

يقلل التصميم الجديد هذا إلى نقرة واحدة. ظهر التحديث بعد عدة أسابيع من أن أصبحت الدعوى القضائية ضد غوغل علنية. تؤكد عائلة الرجل المتوفى أن جيميني أجرى معه محادثات طويلة عن الانتحار ولم يقتصر الأمر على عدم منع تطورها، بل، بحسب قول الأقارب، "درّبه" على قراره.

تمت الدعوى بموجب الوفاة غير القانونية — الوفاة غير القانونية الناجمة عن طرف ثالث. تنفي غوغل تورطها وتؤكد أن روبوت الدردشة اتبع بروتوكولات الأمان. هذه ليست أول دعوى مماثلة في الصناعة.

في عام 2024، واجهت Character.AI مطالب مشابهة: توفي مراهق بعد تفاعل طويل مع شخصية ذكية للعب الأدوار. تلقت OpenAI أيضاً دعاوى تتعلق بالضرر النفسي المزعوم من استخدام ChatGPT.

تجبر هذه السلسلة من القضايا الصناعة على إعادة النظر في نهجها لميزات الأمان — ليس فقط من وجهة نظر أخلاقية بل أيضاً من منظور المخاطر القانونية. من المهم فهم ما تغيّر بالضبط وما بقي كما هو. لم يحصل جيميني على قيود جديدة على محتوى المحادثة.

يمكن للنموذج لا يزال أن يُجري محادثات عن الانتحار — ظل حد التدخل عند "إشارة أزمة في النص". تغيرت واجهة الاستجابة فقط: أصبح زر المساعدة أكثر وضوحاً وإمكانية الوصول إليه. يشير النقاد إلى أن هذا إجراء لتقليل الضرر وليس حلاً للمشكلة الأساسية: إذا كان النموذج قادراً على تفاقم حالة المستخدم الضعيف، فإن الزر المناسب لا يحل هذه المشكلة.

يبدو أن غوغل تفهم قيود هذه الخطوة. لم تعلن الشركة عن التحديث كرد مباشر على الدعوى القضائية — رسمياً تم تقديمه كتحسين منهجي لتجربة المستخدم في قسم الأمان. مع ذلك، تتحدث الجدول الزمني عن نفسه: أصبحت الدعوى القضائية علنية في أوائل عام 2025، وتبعها إعادة التصميم.

بالنسبة لصناعة الذكاء الاصطناعي بأكملها، فإن القصة مع جيميني — ومع Character.AI، ومع OpenAI — تحدد منطقة خطر جديدة. تقضي روبوتات الدردشة الآن وقتاً أطول بكثير مع المستخدمين مقارنة بمحركات البحث.

تعرف السياق والسجل ومزاج الشخص في أي لحظة معينة. هذا يجعلها مفيدة بشكل محتمل في أوقات الأزمة — وخطيرة بشكل محتمل إذا لم يستطع النموذج التوقف في الوقت المناسب أو تسليم المسؤولية إلى متخصص. إعادة تصميم الزر هي خطوة في الاتجاه الصحيح.

لكن ما إذا كانت كافية سيظهره الدعوى القضائية التالية.