Fiscal General de Florida investiga a OpenAI: ChatGPT habría ayudado a planificar tiroteo en universidad

El Fiscal General del estado de Florida anunció el lanzamiento de una investigación oficial contra OpenAI. El motivo fue una tragedia en el campus de la Universidad Estatal de Florida: hace un año en abril, un individuo desconocido abrió fuego contra estudiantes, matando a dos personas e hiriendo a cinco más. Según los datos disponibles, antes de cometer el ataque, el perpetrador utilizó activamente ChatGPT — y la investigación tiene la intención de establecer si la empresa podría haber prevenido la tragedia.

El incidente ocurrió en una de las universidades más grandes del sur estadounidense — Florida State University en Tallahassee. El tiroteo de abril se convirtió inmediatamente en motivo para discusiones nacionales sobre seguridad en campus. Cuando resultó que el atacante presumiblemente utilizó ChatGPT al planificar el ataque, la discusión alcanzó un nuevo nivel: la responsabilidad de las empresas tecnológicas por las acciones de sus usuarios entró en cuestión.

La familia de una de las víctimas anunció su intención de presentar una demanda civil contra OpenAI. Según los abogados, la empresa creó un producto que podría utilizarse para causar daño y no tomó medidas suficientes para prevenir tal escenario. Ahora el estado se une al caso: la investigación del fiscal general tiene carácter oficial y puede conllevar consecuencias legales para la empresa.

OpenAI aún no ha comentado el inicio de la investigación. La empresa ha enfrentado durante mucho tiempo críticas sobre los mecanismos de protección de sus productos: a pesar de numerosos filtros, investigadores y periodistas demuestran periódicamente formas de obtener contenido potencialmente peligroso de ChatGPT. La pregunta clave para la investigación: ¿sabía la empresa sobre tales riesgos y qué medidas tomó.

Desde el punto de vista legal, el caso es complicado. En Estados Unidos se aplica la Sección 230 de la Ley de Decencia en las Comunicaciones, que tradicionalmente protege a las plataformas de internet de la responsabilidad por contenido generado por usuarios. Sin embargo, ChatGPT no es una plataforma pasiva: genera contenido por sí mismo en respuesta a solicitudes.

Es precisamente este matiz el que abre un nicho legal que los demandantes intentan explotar. Los expertos no están de acuerdo sobre la aplicabilidad de la Sección 230 a los sistemas de IA generativa. La investigación en Florida se destaca entre otros intentos de responsabilizar a los desarrolladores de IA: la escala de la tragedia y el grado de presunta implicación del sistema de IA en la preparación de la violencia son sin precedentes.

Si la investigación establece una conexión directa entre ChatGPT y la planificación del ataque, el precedente podría cambiar el panorama regulatorio para toda la industria. Para OpenAI, lo que está sucediendo es un desafío serio. La empresa se posiciona activamente como creadora de IA segura y coopera con reguladores en todo el mundo.

Una investigación penal a nivel estatal puede infligir daño reputacional, no menos doloroso que las sanciones financieras. Una demanda civil de la familia del fallecido, si es aceptada por el tribunal, establecerá un precedente para una avalancha de casos similares. La cuestión de la responsabilidad de los desarrolladores de IA por el uso criminal de sus sistemas se está convirtiendo en una de las cuestiones clave para la regulación futura de la industria.