The Verge→ original

Familias de víctimas del tiroteo en Tumbler Ridge demandan a OpenAI por ocultar conversaciones de ChatGPT del tirador

Siete familias de víctimas del tiroteo en la escuela Tumbler Ridge en Canadá demandaron a OpenAI y Sam Altman. Según The Wall Street Journal, la empresa…

Procesado por IA desde The Verge; editado por Hamidun News
Familias de víctimas del tiroteo en Tumbler Ridge demandan a OpenAI por ocultar conversaciones de ChatGPT del tirador
Fuente: The Verge. Collage: Hamidun News.
◐ Escuchar artículo

Siete familias de víctimas y supervivientes del tiroteo en una escuela canadiense en Tumbler Ridge han presentado demandas contra OpenAI y su CEO Sam Altman. La empresa es acusada de negligencia: sus sistemas detectaron correspondencia alarmante del presunto tirador en ChatGPT meses antes de la tragedia, pero nunca se notificó a la policía.

Lo Que Sabía la Empresa

Según The Wall Street Journal, empleados de OpenAI "consideraron" notificar a las autoridades policiales sobre Jesse Van Routsalaar, de 18 años, varios meses antes del tiroteo. En conversaciones con el chatbot, el joven abordaba temas de violencia con armas de fuego. Según los demandantes, esto era razón suficiente para reportar inmediatamente la información a la policía.

Las familias de las víctimas afirman que OpenAI eligió deliberadamente el silencio. El motivo, según ellos, era reputacional: notificar a las autoridades podría haber atraído atención no deseada antes de la OPA planeada de la empresa. Si la corte acepta este argumento, no se trata de un error algorítmico o una deficiencia en la política de seguridad — sino de una decisión corporativa de anteponer la valoración futura de la empresa a las vidas humanas.

Quién Demanda y Sobre Qué

El tiroteo ocurrió en Tumbler Ridge — una pequeña ciudad minera en la provincia de Columbia Británica. Entre las víctimas había niños. Las demandas fueron presentadas en nombre de siete familias y dirigidas contra dos demandados:

  • La entidad legal OpenAI es acusada de negligencia e inacción deliberada
  • Sam Altman personalmente — como codemandado y CEO informado de la situación
  • La correspondencia interna de empleados figura entre las pruebas clave
  • Los demandantes exigen compensación financiera por los daños sufridos
  • Adicionalmente — cambios sistémicos obligatorios en la política de moderación

Invocar responsabilidad personal del CEO es un enfoque atípico, pero cada vez más común en demandas contra empresas tecnológicas. Esto envía una señal a los tribunales y reguladores: los ejecutivos principales, no solo las estructuras corporativas, deben enfrentar las consecuencias de tales decisiones.

Privacidad vs. Seguridad

Esta demanda expone una contradicción que toda la industria de IA eventualmente enfrentará. Plataformas como ChatGPT construyen la confianza del usuario sobre una única promesa — la confidencialidad de las conversaciones. El monitoreo obligatorio de amenazas destruye esta confianza y convierte los chatbots en herramientas de vigilancia. Por otro lado, si las empresas conocen posibles intenciones peligrosas de los usuarios y permanecen en silencio, corren el riesgo de asumir responsabilidad legal directa por las consecuencias.

"Consideramos la posibilidad de notificación, pero no tomamos medidas" — según el WSJ, esta era precisamente la posición de empleados de

OpenAI que vieron la correspondencia del presunto tirador.

Hasta ahora, las grandes empresas de IA han evitado el monitoreo obligatorio de amenazas, citando los derechos de privacidad de los usuarios. El precedente de Tumbler Ridge podría cambiar este status quo — especialmente considerando que cientos de millones de personas en todo el mundo usan ChatGPT diariamente.

Lo Que Significa

Si la corte se posiciona del lado de las familias, las plataformas de IA enfrentarán una opción difícil: construir sistemas de monitoreo de amenazas con alertas obligatorias a las autoridades — o asumir responsabilidad civil y penal por tragedias evitables. Ambos caminos cambian fundamentalmente las reglas del juego en la industria.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 400 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.

¿Quieres dejar de leer sobre IA y empezar a usarla?

AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.

¿Qué te parece?
Cargando comentarios…