Grok passou do limite: Comissão Europeia investiga o chatbot de Elon Musk

Elon Musk promove há tempos o Grok como um assistente de IA "anti-pauta", o mais livre possível e sem medo de temas espinhosos. Mas essa liberdade levou o X direto ao tribunal da Comissão Europeia. Bruxelas abriu oficialmente uma investigação e, desta vez, não se trata de disputas políticas, e sim de uma função específica do modelo: a capacidade de gerar imagens e textos de cunho sexual que literalmente despem pessoas sem que elas saibam. Quando Musk demitiu as equipes de moderação e segurança, provavelmente contava com velocidade e caos, mas dificilmente imaginou que os reguladores europeus sabem ler código e leis tão bem quanto os engenheiros da Califórnia.

O contexto é simples e perigoso para o X. Na Europa vigora a Lei de Serviços Digitais (DSA), que obriga as grandes plataformas a combater riscos sistêmicos. Espalhar deepfakes e pornografia não consensual não é só um problema ético, mas uma violação direta da segurança dos usuários. Por muito tempo o Grok operou numa "zona cinzenta", permitindo que assinantes pagantes gerassem conteúdo que qualquer outra IA, como DALL-E ou Midjourney, bloquearia. Agora os reguladores querem entender por que os sistemas de filtragem do X se mostraram tão furados e se isso foi uma decisão deliberada da direção para atrair público.

O problema se agrava pela forma como o Grok aprende. Ele usa dados de posts do X em tempo real. Se a plataforma está cheia de conteúdo tóxico ou explícito, a IA o absorve como uma esponja e vira uma ferramenta para produzir mais material do mesmo tipo. A Comissão Europeia já enviou um pedido formal exigindo explicações sobre quais medidas de proteção foram adotadas antes do lançamento dos recursos generativos. A julgar pelo número de queixas de figuras públicas e usuários comuns cujos rostos apareceram em imagens falsas, essas medidas ou não funcionam ou simplesmente não existem.

Para Musk, essa investigação pode ser a lição mais cara de sua vida. As multas da DSA podem chegar a 6% do faturamento anual global da empresa. Com os anunciantes já fugindo da plataforma, sanções assim podem ser fatais. Mas não é só uma questão de dinheiro, e sim de precedente. Se a Comissão Europeia obrigar o X a mudar os algoritmos do Grok, isso criará um padrão para toda a indústria de IA generativa. Outros desenvolvedores terão de pensar três vezes antes de lançar modelos "sem filtro" num mercado em que autoridades de braços muito longos zelam pela privacidade dos cidadãos.

Nos próximos meses veremos o clássico confronto entre o tecnoptimismo (ou a imprudência) e a máquina burocrática. Musk quase certamente chamará isso de censura e ataque à liberdade de expressão, mas para os reguladores é uma questão de proteger a dignidade humana e combater a violência digital. A ironia é que o Grok, criado como a "IA mais inteligente e honesta", acabou expondo seu criador a um golpe que nem os tuítes mais espirituosos conseguem aparar.

O ponto principal: Esse caso será o fim do "faroeste" na geração de conteúdo por IA, ou Musk encontrará um jeito de driblar as leis europeias?