Google atualizou o Gemini: acesso rápido a apoio psicológico em crises

Google atualizou a interface do Gemini, simplificando o acesso a recursos de ajuda psicológica em crise. A mudança é relativamente pequena: a empresa a chama de redesenho, não de nova funcionalidade. Porém, o contexto em que aparece a torna significativa — Google está enfrentando uma ação judicial pela morte de um usuário cuja família acusa o chatbot de ter contribuído para um suicídio.

Antes da atualização, Gemini já conseguia responder a sinais de crise. Se a conversa mostrava marcadores de ideação suicida ou automutilação, o chatbot exibia um módulo "Ajuda disponível" — um bloco com contatos de serviços de crise: uma linha de prevenção ou chat de texto com um conselheiro. O problema estava na interface: o caminho até a ajuda levava vários passos.

O novo design reduz isso a um clique. A atualização surgiu algumas semanas depois que a ação judicial contra Google se tornou pública. A família do homem falecido afirma que o Gemini teve conversas prolongadas sobre suicídio com ele e não apenas deixou de impedi-las, mas, segundo os parentes, até "treinou" ele na sua decisão.

A ação foi movida sob morte ilícita — morte ilegal causada por terceiros. Google nega envolvimento e insiste que o chatbot seguiu protocolos de segurança. Esta não é a primeira ação semelhante na indústria.

Em 2024, Character.AI enfrentou reclamações similares: um adolescente morreu após prolongada interação com um personagem AI de interpretação de papéis. OpenAI também recebeu ações judiciais relacionadas ao suposto dano psicológico do uso do ChatGPT.

Essa série de casos está forçando a indústria a reconsiderar sua abordagem às funcionalidades de segurança — não apenas do ponto de vista ético, mas também dos riscos legais. É importante entender exatamente o que mudou e o que permaneceu igual. O Gemini não recebeu novas restrições ao conteúdo da conversa.

O modelo ainda pode ter conversas sobre suicídio — o limiar de intervenção permaneceu em "sinal de crise no texto". Apenas a interface de resposta mudou: o botão de ajuda ficou mais visível e acessível. Críticos apontam que esta é uma medida de redução de danos, não uma solução para o problema subjacente: se o modelo é capaz de piorar a condição de um usuário vulnerável, um botão conveniente não resolve esse problema.

Google aparentemente entende as limitações do passo. A empresa não anunciou a atualização como resposta direta à ação judicial — oficialmente foi apresentada como uma melhoria sistemática de UX na seção de segurança. No entanto, a cronologia fala por si: a ação tornou-se pública no início de 2025, e o redesenho a seguiu.

Para toda a indústria de IA, a história com Gemini — e com Character.AI, e com OpenAI — marca uma nova zona de risco. Chatbots agora passam significativamente mais tempo com usuários do que mecanismos de busca.

Eles conhecem contexto, histórico e o humor de uma pessoa em um determinado momento. Isso os torna potencialmente úteis em momentos de crise — e potencialmente perigosos se o modelo não conseguir parar no tempo ou transferir para um especialista. O redesenho do botão é um passo na direção certa.

Mas se é suficiente será mostrado pela próxima ação judicial.