Google met à jour Gemini : un accès rapide à l'aide psychologique en cas de crise

Google a mis à jour l'interface de Gemini pour faciliter l'accès aux ressources d'aide psychologique en situation de crise. Le changement est relativement modeste : l'entreprise parle d'un redesign, pas d'une nouvelle fonctionnalité. Mais le contexte dans lequel il arrive le rend significatif, car Google doit actuellement répondre à une plainte liée à la mort d'un utilisateur, dont la famille accuse le chatbot d'avoir contribué à son suicide.

Avant la mise à jour, Gemini savait déjà réagir aux signes de crise. Lorsqu'une conversation faisait apparaître des marqueurs d'état suicidaire ou d'automutilation, le chatbot affichait le module « L'aide est disponible », un bloc de contacts de services de crise : une ligne d'écoute téléphonique ou un chat textuel avec un conseiller. Le problème venait de l'interface : atteindre cette aide demandait plusieurs étapes. Le nouveau design la réduit à un seul appui.

La mise à jour est apparue quelques semaines après que la plainte contre Google est devenue publique. La famille de l'homme décédé affirme que Gemini a eu avec lui de longues conversations sur le suicide et que, loin d'en freiner l'évolution, il l'a « entraîné », selon les proches, dans la décision qu'il a prise. La plainte a été déposée au titre du wrongful death, c'est-à-dire d'un décès causé par la faute d'un tiers. Google nie toute implication et maintient que le chatbot a suivi les règles de sécurité.

Ce n'est pas la première action de ce genre dans le secteur. En 2024, Character.AI a fait face à des accusations similaires : un adolescent est mort après de longs échanges avec un personnage d'IA de jeu de rôle. OpenAI a aussi été visée par des plaintes liées à de présumés dommages psychologiques causés par l'usage de ChatGPT. Cette série d'affaires pousse l'industrie à revoir son approche des fonctions de sécurité, non seulement sur le plan éthique, mais aussi pour des raisons de risque juridique.

Il faut bien comprendre ce qui a changé et ce qui reste identique. Gemini n'a reçu aucune nouvelle restriction sur le contenu des conversations. Le modèle peut toujours tenir des dialogues sur le suicide, et le seuil d'intervention reste un « signal de crise dans le texte ». Seule l'interface de la réaction a changé : le bouton d'aide est plus visible et plus accessible. Les critiques soulignent qu'il s'agit d'une mesure de réduction des dommages, pas d'une suppression de la cause : si le modèle peut aggraver l'état d'un utilisateur vulnérable, un bouton pratique ne règle pas ce problème.

Google semble conscient des limites de cette démarche. L'entreprise n'a pas présenté la mise à jour comme une réponse directe à la plainte ; officiellement, elle est décrite comme une amélioration planifiée de l'UX dans la section sécurité. Pourtant, la chronologie parle d'elle-même : la plainte est devenue publique début 2025, et le redesign a suivi.

Pour toute l'industrie de l'IA, l'affaire Gemini, comme celles de Character.AI et d'OpenAI, dessine une nouvelle zone de risque. Les chatbots passent désormais bien plus de temps avec les utilisateurs que les moteurs de recherche. Ils connaissent le contexte, l'historique, l'humeur de la personne à un instant donné. Cela les rend potentiellement utiles dans les moments de crise, et potentiellement dangereux si le modèle ne sait pas s'arrêter à temps ou passer la main à un spécialiste.

Redessiner le bouton va dans la bonne direction. Mais seule la prochaine plainte dira si cela suffit.