Removam o Grok: entidades de direitos humanos pedem que X saia da App Store

Um escândalo cada vez maior envolve a rede social X (antiga Twitter) e o Grok, chatbot desenvolvido pela xAI. Uma coalizão de 28 organizações de direitos humanos, incluindo grupos de mulheres e entidades que monitoram a tecnologia, enviou cartas abertas aos presidentes da Apple e do Google exigindo a remoção do X e do Grok de suas lojas de aplicativos. O motivo é a circulação de conteúdo que viola as regras das plataformas: deepfakes de caráter sexual criados sem o consentimento das pessoas retratadas e materiais que, na avaliação das organizações, podem conter pornografia infantil.

A situação se agrava, segundo os ativistas, porque o Grok é usado ativamente para criar e disseminar essas imagens. Eles ressaltam que esse tipo de conteúdo não apenas viola as Apple App Review Guidelines, mas também é crime. A disponibilidade do Grok tanto pelo aplicativo do X quanto diretamente por uma interface web torna o problema ainda mais grave, pois amplia o alcance entre o público potencial, incluindo menores de idade.

O problema dos deepfakes e de sua disseminação nas redes sociais está longe de ser novo, mas ganha cada vez mais relevância com o avanço da inteligência artificial generativa. Criar imagens e vídeos falsos realistas fica cada vez mais fácil e acessível, o que traz riscos sérios à privacidade e à segurança das pessoas. Mulheres e crianças são especialmente vulneráveis e com mais frequência se tornam vítimas desse tipo de conteúdo.

O pedido das organizações coloca Apple e Google em uma situação difícil. De um lado, elas têm a obrigação de cumprir suas próprias regras e garantir a segurança dos usuários. De outro, remover um aplicativo popular como o X pode gerar reação negativa dos usuários e acusações de censura. Além disso, surge a questão da liberdade de expressão e dos limites da responsabilidade das plataformas pelo conteúdo criado por usuários.

O impacto dessa decisão pode ser significativo para toda a indústria. Se Apple e Google atenderem às exigências das entidades, isso abrirá um precedente e pode levar ao endurecimento das regras para outras redes sociais e plataformas que usam inteligência artificial. Também pode estimular o desenvolvimento de ferramentas mais eficazes para detectar e remover deepfakes e outros tipos de conteúdo nocivo.

No fim das contas, o sucesso no combate à disseminação de deepfakes e de outros abusos online depende do esforço conjunto de empresas de tecnologia, autoridades policiais, organizações de direitos humanos e dos próprios usuários. Não basta desenvolver e implantar novas tecnologias: é preciso também ampliar a conscientização da sociedade sobre os riscos dos deepfakes e ensinar as pessoas a reconhecê-los.