Adolescentes processam a xAI: Grok gerou CSAM com imagens deles quando menores

Três adolescentes do estado do Tennessee entraram com uma ação coletiva contra a xAI, empresa de Elon Musk que desenvolve o chatbot Grok. Os autores acusam a companhia de permitir que seu sistema de IA gerasse imagens e vídeos sexualizados deles quando eram menores. A tese central: a liderança da xAI conhecia esse risco antes de lançar a função em questão.

A ação foi protocolada na segunda-feira e mira pessoalmente Musk e outros executivos de alto escalão da xAI. Os autores insistem que a empresa sabia de antemão que o Grok podia criar material de abuso sexual infantil (CSAM), mas ainda assim lançou o chamado "modo picante" (spicy mode) em 2025. Na visão dos autores, a decisão foi deliberada e criminosamente negligente: a xAI abriu espaço para a geração de conteúdo ilegal e o encobriu com restrições formais de idade que se mostraram ineficazes.

Entre os autores estão dois menores atuais e um adulto que era criança na época dos fatos descritos. Uma das vítimas, identificada nos documentos como "Jane Doe 1", conta que em dezembro do ano passado descobriu que imagens explícitas geradas por IA com a sua imagem circulavam na internet. Ela diz que nunca deu consentimento para a criação desse conteúdo: o Grok o gerou a pedido de usuários que ela não conhecia.

O "modo picante" chegou ao Grok no verão de 2025. A função permitia que o modelo criasse conteúdo explícito a pedido do usuário. A xAI a posicionou como ferramenta para adultos, com verificação de idade declarada. No entanto, segundo a ação, nenhuma das restrições embutidas impediu a geração de conteúdo sexualizado com pessoas reais, inclusive crianças. Os autores afirmam que a xAI conhecia essa vulnerabilidade antes do lançamento e assumiu o risco conscientemente.

A geração de CSAM por IA é um dos problemas mais agudos da indústria de tecnologia. Nos Estados Unidos, a lei federal PROTECT criminaliza a criação e a distribuição de imagens virtuais de abuso sexual infantil, mesmo quando retratam personagens fictícios. Quando o conteúdo retrata menores reais, as consequências jurídicas são muito mais graves. Preocupa especialmente o fato de que as vítimas frequentemente só descobrem a existência desse conteúdo meses depois, porque os algoritmos de distribuição funcionam de forma autônoma.

Os autores buscam o status de ação coletiva, o que permitiria a outras vítimas de todo o país se juntarem ao caso. A xAI ainda não se manifestou publicamente; a empresa tradicionalmente raramente interage com a imprensa.

O Grok está integrado à plataforma X (antigo Twitter) e também está disponível como aplicativo independente. Após várias ondas de críticas, a funcionalidade do "modo picante" foi ajustada e restringida, mas, a julgar pela ação, as medidas adotadas foram insuficientes.

A ação contra a xAI se encaixa em uma tendência jurídica ampla: vítimas de geração por IA recorrem cada vez mais à Justiça. Antes, casos semelhantes atingiam plataformas sociais que não tomaram medidas a tempo contra conteúdo deepfake. Agora, tenta-se responsabilizar diretamente os desenvolvedores de modelos generativos. O desfecho deste caso pode abrir um precedente importante e definir quão graves são as consequências jurídicas para empresas que ignoram a segurança ao lançar sistemas poderosos de IA generativa.