Las familias de las víctimas del tiroteo de Tumbler Ridge demandan a OpenAI por callar las conversaciones del tirador con ChatGPT

Siete familias de fallecidos y heridos en el tiroteo de una escuela de Tumbler Ridge, en Canadá, han presentado demandas contra OpenAI y su consejero delegado, Sam Altman. Acusan a la compañía de negligencia: sus sistemas detectaron las inquietantes conversaciones del sospechoso con ChatGPT mucho antes de la tragedia, pero nadie avisó a la policía.

Qué sabía la compañía

Según The Wall Street Journal, empleados de OpenAI «consideraron» la posibilidad de alertar a las fuerzas del orden sobre Jesse Van Rootselaar, de 18 años, varios meses antes del tiroteo. En sus diálogos con el chatbot, el joven abordaba temas de violencia con armas. Para los demandantes, eso bastaba para trasladar la información a la policía de inmediato.

Las familias de las víctimas afirman que OpenAI optó deliberadamente por guardar silencio. El motivo, según ellas, fue reputacional: avisar a las autoridades podía atraer una atención indeseada en vísperas de la salida a bolsa (OPV) prevista por la compañía. Si el tribunal acepta este argumento, ya no se hablará de un fallo del algoritmo o de una laguna en la política de seguridad, sino de una decisión corporativa de anteponer la futura valoración de la empresa a vidas humanas.

Quién demanda y por qué

El tiroteo ocurrió en Tumbler Ridge, una pequeña localidad minera de la provincia de Columbia Británica. Entre las víctimas hay niños. Las demandas se han presentado en nombre de siete familias y se dirigen contra dos demandados a la vez:

• La persona jurídica OpenAI, acusada de negligencia y omisión deliberada
• Sam Altman a título personal, como codemandado en su calidad de CEO conocedor de la situación
• La correspondencia interna de los empleados figura entre las pruebas clave
• Los demandantes exigen una compensación económica por los daños causados
• Además, reclaman cambios sistémicos obligatorios en la política de moderación

Apuntar a la responsabilidad personal del CEO es una táctica atípica, pero cada vez más habitual en las demandas contra empresas tecnológicas. Es una señal para tribunales y reguladores: los altos directivos, y no solo las estructuras corporativas, deben asumir las consecuencias de este tipo de decisiones.

Privacidad frente a seguridad

Esta demanda deja al descubierto una contradicción con la que, tarde o temprano, tendrá que lidiar toda la industria de la IA. Plataformas como ChatGPT construyen la confianza de sus usuarios sobre una única promesa: la confidencialidad de las conversaciones. La monitorización obligatoria de amenazas destruye esa confianza y convierte a los chatbots en herramientas de vigilancia. Por otro lado, si las empresas conocen intenciones potencialmente peligrosas de sus usuarios y callan, se exponen a una responsabilidad legal directa por las consecuencias.

«Consideramos la posibilidad de avisar, pero no tomamos medidas»: según el WSJ, esa fue la postura de los empleados de

OpenAI que vieron las conversaciones del sospechoso.

Hasta ahora, las grandes empresas de IA han evitado la monitorización obligatoria de amenazas amparándose en el derecho de los usuarios a la privacidad. El precedente de Tumbler Ridge podría cambiar ese statu quo, sobre todo teniendo en cuenta que cientos de millones de personas en todo el mundo usan ChatGPT a diario.

Qué significa esto

Si el tribunal da la razón a las familias, las plataformas de IA se enfrentarán a una disyuntiva dura: crear sistemas de monitorización de amenazas con aviso obligatorio a las autoridades o asumir la responsabilidad civil y penal por tragedias evitables. Ambos caminos cambian de raíz las reglas del juego en el sector.