Google actualizó Gemini: acceso rápido a ayuda psicológica en crisis

Google ha actualizado la interfaz de Gemini, simplificando el acceso a recursos de ayuda psicológica en crisis. El cambio es relativamente pequeño: la empresa lo llama un rediseño, no una nueva funcionalidad. Sin embargo, el contexto en el que aparece lo hace significativo — Google actualmente enfrenta una demanda por la muerte de un usuario cuya familia acusa al chatbot de contribuir a un suicidio.

Antes de la actualización, Gemini ya podía responder a signos de crisis. Si la conversación mostraba marcadores de ideación suicida o automutilación, el chatbot mostraba un módulo "Ayuda disponible" — un bloque con contactos de servicios de crisis: una línea de prevención o chat de texto con un consejero. El problema estaba en la interfaz: el camino hacia la ayuda requería varios pasos.

El nuevo diseño lo reduce a un clic. La actualización llegó varias semanas después de que la demanda contra Google se hiciera pública. La familia del hombre fallecido sostiene que Gemini tuvo conversaciones prolongadas sobre suicidio con él y no solo no previno que se desarrollaran, sino que, según los parientes, incluso lo "entrenó" en su decisión.

La demanda fue presentada bajo muerte por negligencia — la muerte ilícita causada por un tercero. Google niega involucramiento e insiste en que el chatbot siguió protocolos de seguridad. Esta no es la primera demanda similar en la industria.

En 2024, Character.AI enfrentó reclamaciones similares: un adolescente murió tras una prolongada interacción con un personaje AI de rol. OpenAI también ha recibido demandas relacionadas con supuesto daño psicológico por el uso de ChatGPT.

Esta serie de casos está obligando a la industria a reconsiderar su enfoque a las funcionalidades de seguridad — no solo desde un punto de vista ético sino también desde perspectivas de riesgo legal. Es importante entender exactamente qué cambió y qué siguió igual. Gemini no recibió nuevas restricciones en el contenido de la conversación.

El modelo aún puede tener conversaciones sobre suicidio — el umbral de intervención se mantuvo en "señal de crisis en el texto". Solo cambió la interfaz de respuesta: el botón de ayuda se hizo más visible y accesible. Los críticos señalan que esta es una medida de reducción de daño, no una solución al problema subyacente: si el modelo es capaz de empeorar la condición de un usuario vulnerable, un botón conveniente no resuelve ese problema.

Google aparentemente entiende las limitaciones del paso. La empresa no anunció la actualización como una respuesta directa a la demanda — oficialmente fue presentada como una mejora sistemática de UX en la sección de seguridad. Sin embargo, la cronología habla por sí sola: la demanda se hizo pública a principios de 2025, y el rediseño la siguió.

Para toda la industria de IA, la historia con Gemini — y con Character.AI, y con OpenAI — marca una nueva zona de riesgo. Los chatbots ahora pasan significativamente más tiempo con usuarios que los motores de búsqueda.

Conocen el contexto, el historial y el estado de ánimo de una persona en un momento dado. Esto los hace potencialmente útiles en momentos de crisis — y potencialmente peligrosos si el modelo no puede detenerse a tiempo o pasar el control a un especialista. El rediseño del botón es un paso en la dirección correcta.

Pero si es suficiente lo mostrará la próxima demanda.