O lixão digital de Mark: como o Facebook virou uma fábrica de pesadelos de IA

Se você não entra no Facebook há tempos, talvez tenha preservado o que restava da sua paz de espírito. A plataforma que já serviu para compartilhar fotos dos netos e notícias dos colegas de escola virou um delírio febril sem fim, criado por redes neurais. Os usuários encontram cada vez mais um tipo de conteúdo que a internet batizou, com precisão, de «AI slop»: lixo de baixa qualidade gerado por inteligência artificial, que vai do ridículo ao abertamente assustador. E o problema não é que a IA desenhe mal, mas que os algoritmos da Meta literalmente obrigam você a olhar para isso.

Tudo começou com imagens relativamente inofensivas, embora estranhas, como o «Jesus-camarão» ou esculturas gigantes de melancia. Nos últimos meses, porém, o nível do absurdo subiu. Agora o feed está cheio de imagens de soldados mutilados, crianças com membros a mais na lama e monstros surreais apresentados como «maravilhas da natureza».

É irônico que a Meta, que investe bilhões no desenvolvimento do Llama e de modelos visuais de ponta, tenha se tornado a maior distribuidora do conteúdo digital mais barato e sujo. Isso acontece porque o sistema premia o engajamento a qualquer custo. Quanto mais chocante ou estranha a imagem, maior a chance de alguém deixar um comentário, seja a indignação de uma pessoa real, seja a resposta automática de um bot.

O fenômeno mostra a teoria da «internet morta» em ação. Vemos um ecossistema fechado: redes neurais geram imagens macabras, fazendas de bots curtem e escrevem comentários entusiasmados como «Amém!», e o algoritmo do Facebook, ao detectar essa atividade, impulsiona a publicação ainda mais. Nesse esquema, os usuários reais são apenas testemunhas casuais, nas quais a Meta testa sua capacidade de reter atenção. Para a empresa, isso é negócio: enquanto você rola o feed tentando entender por que a criança da foto tem oito dedos, vê anúncios. A qualidade do conteúdo é secundária para a máquina de publicidade.

A situação fica perigosa quando esse lixo de IA passa a explorar a empatia humana. Golpistas usam imagens de «crianças doentes» ou de «cidades destruídas» para arrecadar doações ou direcionar tráfego a sites duvidosos. A Meta, enquanto isso, assume a posição de mera observadora. Apesar de todas as declarações sobre «IA segura» e sobre a rotulagem de conteúdo gerado, o sistema de moderação claramente não dá conta da escala do problema. Na corrida pelos números de engajamento, a empresa criou um monstro que devora o que restava de bom senso na plataforma.

O que isso significa para o setor como um todo? Vemos a maior rede social do mundo se degradar a um lixão de conteúdo. Se antes o temor era que a IA substituísse os artistas, agora o receio é que ela enterre de vez a possibilidade de encontrar algo genuíno na internet. O Facebook se transforma em um espelho que reflete não os nossos amigos, mas as alucinações mais sombrias e ridículas das redes neurais, aprovadas por um algoritmo sem alma em nome de mais um centavo de lucro.

O ponto principal: a Meta criou a máquina perfeita de produção de ruído digital, e, ao que tudo indica, não há volta. Estamos preparados para que toda a internet logo se pareça com um bad trip de uma rede neural?

*A Meta foi reconhecida como organização extremista e é proibida na Rússia.