Google atualiza o Gemini: acesso rápido a ajuda psicológica em momentos de crise

O Google atualizou a interface do Gemini e facilitou o acesso a recursos de apoio psicológico em crises. A mudança é relativamente pequena: a empresa a chama de redesign, não de nova função. Mas o contexto em que ela surge a torna relevante, porque o Google responde atualmente a um processo pela morte de um usuário, cuja família acusa o chatbot de envolvimento no suicídio.

Antes da atualização, o Gemini já era capaz de reagir a sinais de crise. Se a conversa trazia marcadores de estado suicida ou de autolesão, o chatbot exibia o módulo "Ajuda disponível", um bloco com contatos de serviços de crise: uma linha de apoio por telefone ou um chat de texto com um conselheiro. O problema estava na interface: chegar à ajuda levava vários passos. O novo design reduz isso a um toque.

A atualização apareceu algumas semanas depois de o processo contra o Google se tornar público. A família do homem morto afirma que o Gemini manteve com ele conversas prolongadas sobre suicídio e que, em vez de impedir que evoluíssem, o "treinou", nas palavras dos parentes, na decisão que tomou. A ação foi apresentada como wrongful death, isto é, morte injusta causada por culpa de terceiros. O Google nega envolvimento e sustenta que o chatbot seguiu as regras de segurança.

Este não é o primeiro processo desse tipo no setor. Em 2024, a Character.AI enfrentou acusações semelhantes: um adolescente morreu após longa interação com um personagem de IA de roleplay. A OpenAI também recebeu ações ligadas a supostos danos psicológicos causados pelo uso do ChatGPT. Essa série de casos obriga a indústria a rever sua abordagem de recursos de segurança, não só por ética, mas também por riscos jurídicos.

É importante entender o que mudou e o que continua igual. O Gemini não recebeu novas restrições ao conteúdo das conversas. O modelo ainda pode conduzir diálogos sobre suicídio, e o limiar de intervenção continua sendo um "sinal de crise no texto". Mudou apenas a interface da resposta: o botão de ajuda ficou mais visível e acessível. Críticos apontam que é uma medida de redução de danos, não a eliminação da causa: se o modelo pode agravar o estado de um usuário vulnerável, um botão conveniente não resolve esse problema.

O Google, ao que tudo indica, entende a limitação do passo. A empresa não anunciou a atualização como resposta direta ao processo; oficialmente, ela é apresentada como uma melhoria planejada de UX na seção de segurança. Ainda assim, a cronologia fala por si: o processo se tornou público no início de 2025, e o redesign veio em seguida.

Para toda a indústria de IA, o caso do Gemini, assim como os da Character.AI e da OpenAI, marca uma nova zona de risco. Os chatbots passam hoje muito mais tempo com os usuários do que os mecanismos de busca. Eles conhecem o contexto, o histórico e o humor da pessoa naquele momento. Isso os torna potencialmente úteis em momentos de crise e potencialmente perigosos se o modelo não souber parar a tempo ou passar o controle a um especialista.

Redesenhar o botão é um passo na direção certa. Mas se ele basta, só o próximo processo mostrará.