Procuradoria da Flórida investiga a OpenAI: ChatGPT pode ter ajudado a planejar tiroteio em universidade

O procurador-geral do estado da Flórida anunciou a abertura de uma investigação oficial contra a OpenAI. O motivo foi a tragédia no campus da Universidade Estadual da Flórida: em abril do ano passado, um desconhecido abriu fogo contra estudantes, matou duas pessoas e feriu outras cinco. Segundo os dados disponíveis, antes do ataque o autor usou o ChatGPT de forma intensa, e os investigadores pretendem apurar se a empresa poderia ter evitado a tragédia.

O incidente ocorreu em uma das maiores universidades do sul dos Estados Unidos, a Florida State University, em Tallahassee. O tiroteio de abril provocou de imediato um debate nacional sobre segurança nos campi. Quando se descobriu que o atacante supostamente usou o ChatGPT para planejar o ataque, a discussão subiu de patamar: passou a estar em questão a responsabilidade das empresas de tecnologia pelos atos de seus usuários.

A família de uma das vítimas anunciou que pretende entrar com uma ação civil contra a OpenAI. Segundo os advogados, a empresa criou um produto que podia ser usado para causar danos e não tomou medidas suficientes para evitar esse cenário. Agora o Estado entra no caso: a investigação do procurador-geral tem caráter oficial e pode trazer consequências jurídicas para a empresa.

A OpenAI ainda não comentou a abertura da investigação. A empresa enfrenta há tempos críticas aos mecanismos de proteção de seus produtos: apesar dos muitos filtros, pesquisadores e jornalistas demonstram periodicamente como obter do ChatGPT conteúdo potencialmente perigoso. A pergunta central para os investigadores é se a empresa conhecia esses riscos e o que fez a respeito.

Do ponto de vista jurídico, o caso não é simples. Nos EUA vigora a Seção 230 da Lei de Decência nas Comunicações, que tradicionalmente protege as plataformas de internet da responsabilização pelo conteúdo dos usuários. Mas o ChatGPT não é uma plataforma passiva: ele mesmo gera conteúdo em resposta a pedidos. Essa nuance abre uma brecha jurídica que os autores da ação tentam explorar. Especialistas divergem sobre a aplicabilidade da Seção 230 a sistemas de IA generativa.

A investigação na Flórida se destaca entre outras tentativas de responsabilizar desenvolvedores de IA: a escala da tragédia e o grau de envolvimento atribuído ao sistema de IA na preparação da violência não têm precedentes. Se os investigadores estabelecerem uma ligação direta entre o ChatGPT e o planejamento do ataque, o precedente poderá mudar o cenário regulatório de todo o setor.

Para a OpenAI, trata-se de um desafio sério. A empresa se posiciona ativamente como criadora de IA segura e colabora com reguladores do mundo todo. Uma investigação criminal em nível estadual pode causar dano de reputação tão doloroso quanto sanções financeiras. A ação civil da família da vítima, se for aceita pela Justiça, criará um precedente para uma enxurrada de casos semelhantes.

A responsabilidade dos desenvolvedores de IA pelo uso criminoso de seus sistemas está se tornando uma das questões centrais para a futura regulação do setor.