Google actualiza Gemini: acceso rápido a ayuda psicológica en situaciones de crisis

Google ha actualizado la interfaz de Gemini para facilitar el acceso a recursos de ayuda psicológica en crisis. El cambio es relativamente pequeño: la compañía lo describe como un rediseño, no como una función nueva. Sin embargo, el contexto en el que llega lo vuelve relevante, ya que Google responde actualmente a una demanda por la muerte de un usuario, cuya familia acusa al chatbot de estar implicado en su suicidio.

Antes de la actualización, Gemini ya podía reaccionar ante señales de crisis. Si en la conversación aparecían indicios de estado suicida o de autolesiones, el chatbot mostraba el módulo «La ayuda está disponible», un bloque con contactos de servicios de crisis: una línea telefónica de ayuda o un chat de texto con un consejero. El problema estaba en la interfaz: llegar a la ayuda requería varios pasos. El nuevo diseño lo reduce a una sola pulsación.

La actualización apareció varias semanas después de que se hiciera pública la demanda contra Google. La familia del hombre fallecido afirma que Gemini mantuvo con él conversaciones prolongadas sobre el suicidio y que, lejos de evitar que avanzaran, lo «entrenó», según los familiares, en la decisión que tomó. La demanda se presentó por wrongful death, es decir, muerte injusta causada por la culpa de un tercero. Google niega su implicación y sostiene que el chatbot siguió las reglas de seguridad.

No es la primera demanda de este tipo en el sector. En 2024, Character.AI se enfrentó a reclamaciones similares: un adolescente murió tras una larga interacción con un personaje de IA de rol. OpenAI también ha recibido demandas por presuntos daños psicológicos derivados del uso de ChatGPT. Esta serie de casos obliga a la industria a replantear su enfoque de las funciones de seguridad, no solo por ética, sino también por riesgos legales.

Conviene entender qué ha cambiado y qué sigue igual. Gemini no ha recibido nuevas restricciones sobre el contenido de las conversaciones. El modelo todavía puede mantener diálogos sobre el suicidio, y el umbral de intervención sigue siendo una «señal de crisis en el texto». Solo ha cambiado la interfaz de la respuesta: el botón de ayuda es más visible y accesible. Los críticos señalan que es una medida de reducción de daños, no una solución a la causa: si el modelo puede agravar el estado de un usuario vulnerable, un botón cómodo no resuelve ese problema.

Google, al parecer, entiende las limitaciones de este paso. La compañía no ha presentado la actualización como una respuesta directa a la demanda; oficialmente se plantea como una mejora gradual de UX en la sección de seguridad. Aun así, la cronología habla por sí sola: la demanda se hizo pública a principios de 2025 y el rediseño llegó después.

Para toda la industria de la IA, el caso de Gemini, como los de Character.AI y OpenAI, señala una nueva zona de riesgo. Los chatbots pasan ahora mucho más tiempo con los usuarios que los buscadores. Conocen el contexto, el historial y el estado de ánimo de la persona en cada momento. Eso los hace potencialmente útiles en momentos de crisis, y potencialmente peligrosos si el modelo no sabe detenerse a tiempo o ceder el control a un especialista.

Rediseñar el botón es un paso en la dirección correcta. Pero si es suficiente lo mostrará la próxima demanda.