Jovens empreendedores da Ásia lucram com conteúdo de ódio gerado por AI no Facebook

Uma investigação de jornalistas do The Guardian revelou um esquema global de disseminação de conteúdo de ódio. Centenas de contas do Facebook que se fazem passar por comunidades britânicas são, na verdade, gerenciadas por jovens empresários da Ásia do Sul que usam IA para gerar conteúdo tóxico e monetizá-lo. Isto não é uma guerra ideológica — é dinheiro.

Quem está por trás das contas

Contas do Facebook como Britain Today, Britannia News, English Voice parecem comunidades orgânicas de britânicos preocupados. Na realidade, são fábricas de conteúdo. Por trás delas estão jovens do Sri Lanka e do Paquistão que não vivem na Grã-Bretanha e não se interessam por sua política. Seu interesse é simples: entender a monetização do Facebook e lançar um sistema que ganha dinheiro. Idioma, bandeira e ideologia são apenas ferramentas.

Qual conteúdo a IA gera

Vídeos que parecem declarações de pessoas reais. Um homem reclama que seu café parou de servir bacon para não ofender muçulmanos. Imagens de Londres vitoriana com texto "quando a cidade era inglesa e bonita". Essa nostalgia parece uma crítica inofensiva da mudança. Mas ao lado — ódio aberto. Memes chamando o Islã de câncer. Posts sobre muçulmanos rezando na rua como uma invasão. Disseminação da teoria da grande substituição. Juntos, esses posts funcionam como microtoxinas: cada um parece uma opinião, mas no fluxo eles envenenam lentamente.

Dinheiro no ódio

No Facebook, as visualizações são monetizadas: quanto mais engajamento, mais renda. Jovens da Ásia descobriram arbitragem — criar conteúdo de ódio em inglês (um mercado de alta renda) e publicá-lo através de uma rede de contas falsas. Uma conta bem-sucedida recebe 10 milhões de visualizações por mês. Este é dinheiro que é transferido de volta para a Ásia do Sul. Com este dinheiro você pode viver, contratar operadores, expandir a fábrica.

• Criação de conteúdo através de IA (quase sem custos)
• Publicação através de uma rede de contas falsas (parece orgânico)
• Monetização através do Facebook (pagamentos em dólares)
• Retirada de dinheiro para países de baixo custo

Por que funciona

O Facebook otimiza o engajamento — reação, não verdade. O ódio provoca reação: as pessoas clicam, comentam, compartilham com raiva. Os algoritmos amplificam esse conteúdo, elevando-o no feed. A plataforma bloqueia apenas violações óbvias (chamadas diretas à violência). Enquanto uma conta parecer orgânica, o conteúdo permanece.

O que significa

Ferramentas (IA para criação, plataformas para publicação, pagamentos para monetização) permitem que qualquer pessoa transforme emoções em mercadoria. Os criadores não acreditam em ideologia. Mas as consequências são reais: o conteúdo aviva fobias, divide sociedades, envenena o discurso. Plataformas escolhem neutralidade em vez de responsabilidade.

*Meta foi reconhecida como uma organização extremista e é proibida na Rússia.