La fiscalía de Florida investiga a OpenAI: ChatGPT pudo ayudar a planear un tiroteo en una universidad

El fiscal general del estado de Florida anunció el inicio de una investigación oficial contra OpenAI. El motivo fue la tragedia en el campus de la Universidad Estatal de Florida: en abril del año pasado, un desconocido abrió fuego contra estudiantes, mató a dos personas e hirió a otras cinco. Según los datos disponibles, antes del ataque el autor usó ChatGPT de forma intensiva, y los investigadores quieren determinar si la compañía pudo haber evitado la tragedia.

El incidente ocurrió en una de las mayores universidades del sur de Estados Unidos, Florida State University, en Tallahassee. El tiroteo de abril desató de inmediato un debate nacional sobre la seguridad en los campus. Cuando se supo que el atacante supuestamente había usado ChatGPT para planear el ataque, el debate subió de nivel: quedó en cuestión la responsabilidad de las tecnológicas por los actos de sus usuarios.

La familia de una de las víctimas anunció que presentará una demanda civil contra OpenAI. Según sus abogados, la compañía creó un producto que podía usarse para causar daño y no tomó medidas suficientes para evitar un escenario así. Ahora se suma el Estado: la investigación del fiscal general es de carácter oficial y puede acarrear consecuencias legales para la compañía.

OpenAI todavía no ha comentado el inicio de la investigación. La compañía recibe desde hace tiempo críticas por las salvaguardas de sus productos: pese a los numerosos filtros, investigadores y periodistas demuestran de forma periódica cómo obtener de ChatGPT contenido potencialmente peligroso. La pregunta clave para los investigadores es si la compañía conocía esos riesgos y qué hizo al respecto.

Desde el punto de vista jurídico, el caso no es sencillo. En Estados Unidos rige la sección 230 de la Ley de Decencia en las Comunicaciones, que tradicionalmente protege a las plataformas de internet de responsabilidad por el contenido de sus usuarios. Pero ChatGPT no es una plataforma pasiva: genera contenido por sí mismo en respuesta a las solicitudes. Ese matiz abre un resquicio legal que los demandantes intentan aprovechar. Los expertos discrepan sobre si la sección 230 se aplica a los sistemas de IA generativa.

La investigación de Florida se distingue de otros intentos de exigir responsabilidades a los desarrolladores de IA: la magnitud de la tragedia y el grado de implicación que se atribuye al sistema de IA en la preparación de la violencia carecen de precedentes. Si los investigadores establecen un vínculo directo entre ChatGPT y la planificación del ataque, el precedente podría cambiar el panorama regulatorio de todo el sector.

Para OpenAI, esto es un desafío serio. La compañía se presenta activamente como creadora de IA segura y colabora con reguladores de todo el mundo. Una investigación penal a nivel estatal puede causar un daño reputacional tan doloroso como las sanciones económicas. La demanda civil de la familia de la víctima, si el tribunal la admite, sentará un precedente para una oleada de casos similares.

La responsabilidad de los desarrolladores de IA por el uso criminal de sus sistemas se perfila como una de las cuestiones clave para la futura regulación del sector.