Grok e deepfakes: regulador britânico busca os limites do que é permitido a Elon Musk

Elon Musk sempre gostou de brincar com fogo, mas desta vez as chamas podem ser quentes demais até para ele. O Grok, seu projeto ambicioso, foi posicionado desde o início como uma IA contra a agenda dominante e a mais honesta do mundo. Agora, esbarrou na dura realidade da legislação britânica.

O Information Commissioner's Office (ICO), a autoridade de proteção de dados do Reino Unido, abriu oficialmente uma investigação contra o X e a xAI. O estopim foram relatos de que o Grok permite que usuários gerem deepfakes sexuais de pessoas reais sem o conhecimento e o consentimento delas. Trata-se de uma falha ética e também de uma possível violação das leis britânicas de proteção de dados, que, na Europa e no Reino Unido, são tradicionalmente consideradas das mais rígidas do mundo.

Ao lançar o Grok, Musk apostou na ausência de filtros rígidos — os mesmos que, na visão dele, deixam concorrentes como ChatGPT e Gemini chatos e politicamente corretos demais. Mas a liberdade de expressão na interpretação de Musk logo virou uma ferramenta para criar conteúdo pornográfico envolvendo celebridades e usuários comuns. O ICO agora faz perguntas bastante incômodas: algum mecanismo de proteção foi incorporado à arquitetura do Grok ainda na fase de projeto? No mundo do compliance sério, isso se chama safety by design, e tudo indica que a xAI preferiu esquecer o termo em troca de hype rápido e de atrair público para o X.

O problema para Musk é que o ICO não é um grupo de ativistas insatisfeitos. É um órgão com poder real para aplicar multas de até quatro por cento do faturamento global de uma empresa. Considerando que o X já não vive seus melhores dias em receita publicitária, sanções desse tipo podem ser um golpe doloroso. Além disso, o regulador está verificando se a xAI usou legalmente os dados dos usuários da rede social para treinar seu modelo. Musk já havia feito concessões na Irlanda, suspendendo temporariamente o uso de dados de europeus, mas a investigação britânica vai mais fundo e atinge a própria essência do produto e sua segurança para a sociedade.

O caso do Grok expõe o antigo conflito entre o Vale do Silício e os reguladores europeus. Enquanto as big techs tentam avançar o mais rápido possível e quebrar regras antigas, autoridades em Londres e Bruxelas tentam colocar rédeas de responsabilidade na IA. Musk afirma que sua IA busca a verdade, mas os reguladores observam, com razão, que gerar conteúdo íntimo falso não tem nada a ver com buscar a verdade. A investigação deve se tornar um precedente importante para toda a indústria: os desenvolvedores vão poder continuar se escondendo atrás de avisos sobre a responsabilidade do usuário, ou terão de gastar milhões de dólares em filtros éticos à prova de falhas?

Curiosamente, o escândalo ganha força no momento em que Musk tenta transformar o X em um superapp para tudo. Se o Grok virar um ativo tóxico, que só rende processos e multas, isso pode ameaçar todo o ecossistema de empresas de Musk. Outros players do mercado, como OpenAI e Anthropic, há tempos contrataram verdadeiros exércitos de especialistas em red teaming, que tentam quebrar os próprios modelos antes do lançamento. Em comparação, a abordagem da xAI parece uma tentativa de passar na base do improviso, apostando na magia da marca pessoal do dono. Só que as leis britânicas de proteção de dados não são muito sensíveis ao carisma de bilionários.

O principal: Musk conseguirá provar que sua IA é segura sem transformá-la justamente no produto politicamente correto que tanto despreza? Ou o Grok será a primeira grande vítima da regulação europeia de IA?