xAI processa autoridades de Minnesota por lei contra apps que "despem" pessoas com IA no Grok

A xAI, empresa de Elon Musk, abriu processo contra o procurador-geral de Minnesota, Keith Ellison, para que seja declarada inconstitucional a lei contra aplicativos de "nudificação" aprovada pelo estado em maio de 2025. A xAI afirma que a lei viola a Primeira Emenda da Constituição dos EUA e, na prática, obriga a empresa a restringir as funções de edição de imagens do serviço Grok Imagine.

Qual é o ponto central da ação

A xAI contesta a lei HF1606, uma das primeiras nos EUA voltadas diretamente contra aplicativos que "despem" pessoas em fotografias usando IA. A empresa sustenta que as disposições punitivas da lei não lhe dão escolha prática e violam a liberdade de expressão.

• Autora: xAI; ré: o procurador-geral de Minnesota, Keith Ellison
• Lei contestada: HF1606, aprovada pelo estado em maio de 2025
• Fundamento da ação: violação da Primeira Emenda da Constituição dos EUA
• Produto em disputa: o editor de imagens Grok Imagine
• Motivo da regulação: onda de deepfakes de IA no início de 2026

"A empresa não tem escolha prática a não ser restringir as funções de edição de imagens do

Grok Imagine de várias maneiras", diz a petição da xAI.

Na prática, a xAI admite que, sob ameaça de sanções, terá de reduzir as capacidades do produto, mas atribui a responsabilidade à lei estadual, e não ao seu próprio sistema de moderação.

O que aconteceu com o Grok em janeiro

Em janeiro de 2026, o Grok inundou a internet com milhões de deepfakes sexualmente explícitos — segundo o The New York Times, entre eles havia imagens de menores de idade. O episódio se tornou uma das maiores falhas de moderação de conteúdo em produtos de IA nos últimos tempos.

Como observa o The Verge, em outra época um escândalo dessa magnitude levaria o dirigente da empresa a desligar o produto em poucas horas. A xAI de Musk, porém, seguiu outro caminho: em vez de bloquear as funções às pressas, a empresa contesta a própria lei que as limita.

Por que isso importa

O embate entre a xAI e Minnesota testa onde fica a fronteira entre a liberdade de expressão e a proteção contra abusos de IA. Minnesota foi um dos primeiros estados a legislar contra aplicativos de nudificação. Se o tribunal ficar do lado da xAI e considerar que a lei viola a Primeira Emenda, ficará mais difícil aprovar normas semelhantes em outros estados.

O que isso significa

A disputa tirou o problema dos deepfakes de IA do campo da moderação e o levou para o do direito constitucional: a xAI preferiu processar o regulador a desativar por conta própria as funções controversas. O desfecho do caso vai definir o quadro para futuras leis contra o "despir" com IA nos EUA.

Perguntas frequentes

O que são aplicativos de nudificação?

São aplicativos e serviços que usam IA para "despir" pessoas em fotos comuns, criando imagens de nudez falsas. A lei HF1606, de Minnesota, é voltada diretamente contra essas ferramentas.

Por que a xAI está processando Minnesota?

A xAI considera que a lei contra aplicativos de nudificação viola a Primeira Emenda e afirma que suas normas punitivas a obrigam a restringir o editor de imagens Grok Imagine. O réu na ação é o procurador-geral do estado, Keith Ellison.

O que aconteceu com o Grok em janeiro de 2026?

Em janeiro de 2026, o Grok gerou milhões de deepfakes explícitos, incluindo, segundo o The New York Times, imagens de menores de idade — esse foi o pano de fundo da atual disputa judicial.