Procurador-Geral da Flórida investiga OpenAI: ChatGPT teria ajudado a planejar tiroteio em universidade

O Procurador-Geral do estado da Flórida anunciou o lançamento de uma investigação oficial contra a OpenAI. O motivo foi uma tragédia no campus da Universidade Estadual da Flórida: em abril do ano passado, um indivíduo desconhecido abriu fogo contra estudantes, matando duas pessoas e ferindo outras cinco. De acordo com dados disponíveis, antes de cometer o ataque, o perpetrador usou ativamente o ChatGPT — e a investigação pretende estabelecer se a empresa poderia ter evitado a tragédia.

O incidente ocorreu em uma das maiores universidades do sul americano — Florida State University em Tallahassee. O tiroteio de abril imediatamente se tornou motivo para discussões nacionais sobre segurança nos campi. Quando ficou claro que o atacante presumivelmente usou o ChatGPT ao planejar o ataque, a discussão atingiu um novo nível: a responsabilidade das empresas de tecnologia pelas ações de seus usuários veio à tona.

A família de uma das vítimas anunciou sua intenção de entrar com uma ação cível contra a OpenAI. De acordo com os advogados, a empresa criou um produto que poderia ser usado para causar danos e não tomou medidas suficientes para evitar tal cenário. Agora o estado se junta ao caso: a investigação do procurador-geral tem caráter oficial e pode resultar em consequências legais para a empresa.

A OpenAI ainda não comentou o início da investigação. A empresa há muito enfrenta críticas dos mecanismos de proteção de seus produtos: apesar de numerosos filtros, pesquisadores e jornalistas periodicamente demonstram formas de obter conteúdo potencialmente perigoso do ChatGPT. A questão-chave para a investigação: a empresa sabia sobre tais riscos e que medidas tomou.

Do ponto de vista legal, o caso é complicado. Nos Estados Unidos, a Seção 230 da Lei de Decência nas Comunicações se aplica, tradicionalmente protegendo plataformas de internet da responsabilidade por conteúdo gerado por usuários. No entanto, o ChatGPT não é uma plataforma passiva: ele gera conteúdo por si próprio em resposta a solicitações.

É precisamente esse detalhe que abre um nicho legal que os demandantes estão tentando explorar. Os especialistas discordam sobre a aplicabilidade da Seção 230 aos sistemas de IA generativa. A investigação na Flórida se destaca em relação a outras tentativas de responsabilizar desenvolvedores de IA: a escala da tragédia e o grau de envolvimento alegado do sistema de IA na preparação da violência são sem precedentes.

Se a investigação estabelecer uma conexão direta entre o ChatGPT e o planejamento do ataque, o precedente pode mudar o cenário regulatório para toda a indústria. Para a OpenAI, o que está acontecendo é um desafio sério. A empresa se posiciona ativamente como criadora de IA segura e coopera com reguladores em todo o mundo.

Uma investigação criminal no nível estadual pode causar dano reputacional, não menos doloroso do que sanções financeiras. Uma ação cível da família da vítima, se aceita pelo tribunal, estabelecerá um precedente para uma enxurrada de casos semelhantes. A questão da responsabilidade dos desenvolvedores de IA pelo uso criminoso de seus sistemas está se tornando uma das questões-chave para a regulação futura da indústria.