Adolescentes processam a xAI: Grok gerou CSAM com imagens de menores

Três adolescentes do estado do Tennessee entraram com uma ação judicial coletiva contra a xAI — a empresa de Elon Musk que desenvolve o chatbot Grok. Os autores acusam a empresa de permitir que seu sistema de IA gerasse imagens e vídeos sexualizados contendo eles como menores. A alegação central: a liderança da xAI sabia sobre esse risco antes de lançar a funcionalidade relevante.

A ação foi ajuizada na segunda-feira e se dirige pessoalmente a Musk e a outros executivos sêniores da xAI. Os autores insistem que a empresa estava ciente antecipadamente de que o Grok poderia criar material de abuso sexual infantil (CSAM), mas ainda assim lançou o chamado "modo picante" (spicy mode) em 2025. Segundo os reclamantes, essa decisão foi deliberada e criminosamente negligente — a xAI habilitou a geração de conteúdo ilegal enquanto se escondia atrás de restrições de idade formais que se mostraram ineficazes.

Entre os autores estão dois menores atuais e um adulto que era criança no momento dos eventos descritos. Uma das vítimas, referida nos documentos como "Jane Doe 1", relata ter descoberto a distribuição de imagens geradas por IA explicitamente contendo sua imagem na internet em dezembro do ano passado. De acordo com ela, não deu consentimento para criar tal conteúdo — foi gerado pelo Grok com base em solicitações de usuários que ela não conhecia.

O "modo picante" apareceu no Grok no verão de 2025. A funcionalidade permitia ao modelo criar conteúdo explícito sob solicitação do usuário. A xAI a posicionou como uma ferramenta para adultos com verificação de idade declarada.

No entanto, de acordo com os materiais da ação judicial, nenhuma das restrições integradas impediu a geração de conteúdo sexualizado apresentando pessoas reais, incluindo crianças. Os autores argumentam que a xAI sabia sobre essa vulnerabilidade antes do lançamento e conscientemente assumiu esse risco. O problema da CSAM gerada por IA é um dos mais agudos da indústria de tecnologia.

Nos Estados Unidos, a Lei Federal PROTECT criminaliza a criação e distribuição de imagens virtuais de abuso sexual infantil — mesmo que retratem personagens fictícios. Quando o conteúdo é criado apresentando imagens de menores reais, as consequências legais são exponencialmente mais sérias. Preocupação particular é levantada pelo fato de que as vítimas frequentemente ficam sabendo da existência de tal conteúdo apenas meses depois — algoritmos de distribuição operam autonomamente.

Os autores estão buscando o status de ação coletiva, o que permitiria que outras vítimas se juntassem ao caso em todo o país. A xAI ainda não fez nenhuma declaração pública — a empresa tradicionalmente interage com a imprensa muito raramente. O Grok está integrado à plataforma X (antigo Twitter) e está disponível como um aplicativo independente.

Após várias ondas de crítica, a funcionalidade do "modo picante" foi ajustada e restrita — no entanto, de acordo com a ação judicial, as medidas tomadas se mostraram insuficientes. A ação contra a xAI se enquadra em uma tendência legal mais ampla: as vítimas de geração de IA estão cada vez mais recorrendo aos tribunais. Anteriormente, casos similares envolviam plataformas sociais que falharam em tomar ações oportunas contra conteúdo deepfake.

Agora a responsabilidade está sendo buscada diretamente dos desenvolvedores de modelos generativos. O resultado deste caso poderia estabelecer um precedente importante e determinar quão sérias são as consequências legais para as empresas que ignoram questões de segurança ao lançar poderosos sistemas de IA generativa.