Por que a Big Tech está se afogando no AI slop que ela mesma cria

Nos últimos dias de 2025, o chefe do Instagram, Adam Mosseri, publicou um texto que é difícil descrever como outra coisa que não um manifesto de ansiedade digital. "A autenticidade está se tornando infinitamente reproduzível", escreveu. Tudo o que tornava os criadores de conteúdo relevantes — a capacidade de ser genuíno, de se conectar com o público, de ter uma voz impossível de falsificar — agora está ao alcance de qualquer pessoa com as ferramentas certas.

Mosseri propôs uma solução elegante: os fabricantes de câmeras assinarão as imagens criptograficamente no momento do registro, criando uma cadeia de confiança. O resultado seria um sistema confiável para determinar o que não é produto de inteligência artificial. Parece um plano.

O problema é que isso parece um plano há vários anos.

O The Verge chamou atenção para uma contradição fundamental que atravessa toda a indústria. As empresas que criaram as ferramentas de IA generativa e continuam ampliando sua escala atuam, ao mesmo tempo, como combatentes das consequências da própria tecnologia. A Meta, dona do Instagram e do Facebook, desenvolve ativamente seus próprios modelos generativos, embute recursos de IA em cada produto e estimula a criação de conteúdo sintético. E o mesmo executivo da mesma empresa lamenta publicamente que a autenticidade esteja morrendo. Não é hipocrisia no sentido clássico: é um conflito de interesses estrutural, embutido no modelo de negócios.

O progresso na rotulagem de deepfakes e de conteúdo gerado por IA é, de fato, desanimadoramente lento. O padrão C2PA, a que Mosseri se refere, prevê embutir no próprio arquivo metadados sobre a origem da imagem. Vários fabricantes de câmeras — Sony, Leica, Nikon — já experimentam a tecnologia. Mas entre um protótipo de laboratório e a adoção em massa há um abismo. A esmagadora maioria das fotos do mundo é feita com smartphones, e nem a Apple nem a Samsung integraram até agora o C2PA a seus aparelhos num nível que possa ser chamado de padrão da indústria. Além disso, os metadados são facilmente removidos no upload para a maioria das plataformas — inclusive, ironicamente, o próprio Instagram.

Há ainda um problema mais profundo. Mesmo que a rotulagem de fotos "reais" funcione perfeitamente, ela não resolve a questão do conteúdo que já existe. Bilhões de imagens enviadas antes da adoção do padrão continuarão sem assinatura. A ausência de uma marca criptográfica não significará que a foto é falsa; significará apenas que ela foi feita antes da era da rotulagem ou em um dispositivo sem suporte ao padrão. Um sistema que não consegue distinguir uma foto autêntica antiga de um fake novo tem valor limitado.

Enquanto isso, a escala do AI slop — conteúdo sintético de baixa qualidade que enche feeds e resultados de busca — continua crescendo exponencialmente. O Facebook já virou uma plataforma onde imagens geradas por IA acumulam milhões de curtidas e compartilhamentos. Os resultados de busca do Google são entupidos por sites com textos de IA. A Amazon lida com uma enxurrada de livros escritos por modelos de linguagem. Cada uma dessas empresas é ao mesmo tempo vítima e fonte do problema: elas oferecem as ferramentas para gerar conteúdo, as plataformas para distribuí-lo e os algoritmos que recompensam seu poder de engajamento.

Os críticos apontam, com razão, que os gigantes de tecnologia não têm incentivo econômico para resolver de verdade esse problema. Conteúdo sintético gera engajamento, engajamento gera receita publicitária, e receita publicitária é a razão de existir dessas plataformas. Rotular conteúdo de IA, se feito de forma honesta e generalizada, pode reduzir a interação com ele e, portanto, atingir as métricas apresentadas aos investidores nos relatórios trimestrais. Sob essa luz, as declarações de Mosseri parecem menos um plano de ação e mais um exercício de relações públicas: nomear o problema, oferecer uma solução tecnológica distante e continuar lucrando com o status quo.

A situação lembra as empresas de tabaco que, por décadas, financiaram pesquisas sobre os danos do cigarro enquanto continuavam a vendê-lo. A diferença é que o AI slop não mata literalmente: ele destrói o ambiente de informação, mina a confiança em evidências visuais e cria um mundo em que distinguir verdade de ficção passa a ser uma tarefa que exige conhecimento técnico. Se as maiores empresas de tecnologia realmente querem combater esse fenômeno, deveriam começar não por assinaturas criptográficas em câmeras, mas por seus próprios produtos: limitando ferramentas generativas, rotulando com transparência em suas plataformas e criando algoritmos que não empurrem conteúdo sintético para os feeds de bilhões de usuários.

Até que isso aconteça, toda conversa sobre combater o AI slop continuará sendo exatamente o que é: slop de outro tipo.

*A Meta foi declarada organização extremista e está proibida na Rússia.