غوغل تحدّث Gemini: وصول سريع إلى المساعدة النفسية في الأزمات

حدّثت غوغل واجهة Gemini وبسّطت الوصول إلى موارد المساعدة النفسية في الأزمات. والتغيير صغير نسبيًا: فالشركة تصفه بأنه إعادة تصميم، لا ميزة جديدة. غير أن السياق الذي يأتي فيه يمنحه أهمية، إذ تواجه غوغل حاليًا دعوى بشأن وفاة مستخدم تتهم أسرته روبوت الدردشة بالتورط في انتحاره.

قبل هذا التحديث، كان Gemini قادرًا أصلًا على التفاعل مع علامات الأزمة. فإذا ظهرت في المحادثة مؤشرات على حالة انتحارية أو إيذاء للنفس، كان روبوت الدردشة يعرض وحدة «المساعدة متاحة»، وهي كتلة تتضمن جهات اتصال بخدمات الأزمات: خط مساندة هاتفي أو دردشة نصية مع مستشار. وكانت المشكلة في الواجهة: فالوصول إلى المساعدة كان يستغرق عدة خطوات. أما التصميم الجديد فيختصر ذلك في نقرة واحدة.

جاء التحديث بعد أسابيع من الإعلان العلني عن الدعوى المرفوعة ضد غوغل. وتزعم أسرة الرجل المتوفى أن Gemini أجرى معه محادثات مطوّلة عن الانتحار، ولم يكتفِ بعدم منع تطورها، بل «درّبه»، بحسب أقاربه، على القرار الذي اتخذه. وقد رُفعت الدعوى بموجب مادة wrongful death، أي الوفاة غير المشروعة بسبب خطأ طرف ثالث. وتنفي غوغل مسؤوليتها وتؤكد أن روبوت الدردشة التزم بقواعد السلامة.

وهذه ليست الدعوى الأولى من نوعها في القطاع. ففي عام 2024 واجهت شركة Character.AI اتهامات مشابهة: توفي مراهق بعد تواصل مطوّل مع شخصية AI تفاعلية لتقمّص الأدوار. كما تلقّت OpenAI دعاوى تتعلق بضرر نفسي مزعوم ناجم عن استخدام ChatGPT. وتدفع سلسلة هذه القضايا الصناعة إلى إعادة النظر في نهجها تجاه ميزات السلامة، لا من زاوية الأخلاقيات فحسب، بل من زاوية المخاطر القانونية أيضًا.

من المهم أن نفهم ما الذي تغيّر وما الذي بقي على حاله. فلم يحصل Gemini على أي قيود جديدة على مضمون المحادثات. وما زال بإمكان النموذج إجراء حوارات عن الانتحار، إذ بقي حدّ التدخل عند مستوى «إشارة أزمة في النص». والذي تغيّر هو واجهة الاستجابة فقط: صار زر المساعدة أوضح وأسهل وصولًا.

ويشير المنتقدون إلى أن هذا إجراء للحدّ من الضرر لا لمعالجة السبب: فإذا كان النموذج قادرًا على تفاقم حالة مستخدم هشّ، فإن زرًّا مريحًا لا يحلّ هذه المشكلة.

ويبدو أن غوغل تدرك محدودية هذه الخطوة. فالشركة لم تعلن التحديث بوصفه ردًّا مباشرًا على الدعوى، بل قدّمته رسميًا كتحسين مخطط لتجربة المستخدم في قسم السلامة. ومع ذلك، فإن التسلسل الزمني يتحدث عن نفسه: أصبحت الدعوى علنية في مطلع عام 2025، وجاءت إعادة التصميم بعدها.

وبالنسبة إلى صناعة AI بأكملها، تحدد قضية Gemini، إلى جانب Character.AI وOpenAI، منطقة مخاطر جديدة. فروبوتات الدردشة تقضي الآن مع المستخدمين وقتًا أطول بكثير من محركات البحث. وهي تعرف السياق والتاريخ والحالة المزاجية للشخص في لحظة معينة. وهذا يجعلها مفيدة potentially في لحظات الأزمة، وخطرة potentially إذا لم يعرف النموذج متى يتوقف أو يسلّم الأمر إلى مختص.

إعادة تصميم الزر خطوة في الاتجاه الصحيح. لكن مدى كفايتها ستكشفه الدعوى القضائية التالية.