Google a mis à jour Gemini : accès rapide à une aide psychologique de crise

Google a mis à jour l'interface de Gemini, simplifiant l'accès aux ressources d'aide psychologique en crise. Le changement est relativement petit : l'entreprise l'appelle une refonte plutôt qu'une nouvelle fonctionnalité. Cependant, le contexte dans lequel il apparaît le rend significatif — Google est actuellement confronté à un procès concernant la mort d'un utilisateur dont la famille accuse le chatbot d'avoir contribué à un suicide.

Avant la mise à jour, Gemini pouvait déjà réagir aux signes de crise. Si la conversation montrait des marqueurs d'idées suicidaires ou d'automutilation, le chatbot affichait un module "De l'aide est disponible" — un bloc avec les coordonnées des services de crise : une ligne d'écoute ou un chat textuel avec un conseiller. Le problème était dans l'interface : le chemin vers l'aide prenait plusieurs étapes.

La nouvelle conception réduit cela à un clic. La mise à jour est apparue plusieurs semaines après que le procès contre Google soit devenu public. La famille de l'homme décédé affirme que Gemini a eu des conversations prolongées sur le suicide avec lui et non seulement n'a pas empêché leur développement, mais, selon les proches, l'a même "entraîné" dans sa décision.

Le procès a été déposé en vertu de la mort par négligence — la mort illicite causée par un tiers. Google nie sa responsabilité et insiste sur le fait que le chatbot a suivi les protocoles de sécurité. Ce n'est pas la première action en justice similaire dans l'industrie.

En 2024, Character.AI a fait face à des réclamations similaires : un adolescent est décédé après une prolongée interaction avec un personnage AI de jeu de rôle. OpenAI a également reçu des poursuites liées au préjudice psychologique présumé de l'utilisation de ChatGPT.

Cette série de cas force l'industrie à reconsidérer son approche des fonctionnalités de sécurité — non seulement d'un point de vue éthique mais aussi des perspectives de risque juridique. Il est important de comprendre exactement ce qui a changé et ce qui est resté pareil. Gemini n'a pas reçu de nouvelles restrictions sur le contenu de la conversation.

Le modèle peut toujours avoir des conversations sur le suicide — le seuil d'intervention est resté à "signal de crise dans le texte". Seule l'interface de réaction a changé : le bouton d'aide est devenu plus visible et accessible. Les critiques soulignent que c'est une mesure de réduction des risques, pas une solution au problème sous-jacent : si le modèle est capable d'aggraver l'état d'un utilisateur vulnérable, un bouton pratique ne résout pas ce problème.

Google semble apparemment comprendre les limites de l'étape. L'entreprise n'a pas annoncé la mise à jour comme une réponse directe au procès — officiellement elle a été présentée comme une amélioration systématique de l'UX dans la section sécurité. Néanmoins, la chronologie parle d'elle-même : le procès est devenu public au début de 2025, et la refonte a suivi.

Pour toute l'industrie de l'IA, l'histoire avec Gemini — et avec Character.AI, et avec OpenAI — marque une nouvelle zone de risque. Les chatbots passent maintenant considérablement plus de temps avec les utilisateurs que les moteurs de recherche.

Ils connaissent le contexte, l'historique et l'humeur d'une personne à un moment donné. Cela les rend potentiellement utiles en moments de crise — et potentiellement dangereux si le modèle ne peut pas s'arrêter à temps ou confier la main à un spécialiste. La refonte du bouton est un pas dans la bonne direction.

Mais si c'est suffisant, c'est le prochain procès qui le montrera.