Jóvenes emprendedores asiáticos lucran con contenido de odio generado con AI en Facebook

Una investigación de periodistas de The Guardian ha revelado un esquema global de difusión de contenido de odio. Cientos de cuentas de Facebook que se hacen pasar por comunidades británicas son, en realidad, gestionadas por jóvenes emprendedores del sur de Asia que utilizan IA para generar contenido tóxico y monetizarlo. Esto no es una guerra ideológica — es dinero.

Quién está detrás de las cuentas

Las cuentas de Facebook como Britain Today, Britannia News, English Voice parecen comunidades orgánicas de británicos preocupados. En realidad, son fábricas de contenido. Detrás de ellas hay jóvenes de Sri Lanka y Paquistán que no viven en Gran Bretaña ni les interesa su política. Su interés es simple: entender la monetización de Facebook e iniciar un sistema que genere dinero. El idioma, la bandera y la ideología son solo herramientas.

Qué contenido genera la IA

Videos que parecen declaraciones de personas reales. Un hombre se queja de que su café dejó de servir tocino para no ofender a los musulmanes. Imágenes de Londres victoriano con texto "cuando la ciudad era inglesa y hermosa". Esta nostalgia parece una crítica inofensiva del cambio. Pero junto a ella — odio abierto. Memes que llaman al Islam cáncer. Posts sobre musulmanes rezando en la calle como una invasión. Difusión de la teoría del gran reemplazo. Juntos, estos posts funcionan como microtoxinas: cada uno parece una opinión, pero en el flujo envenenan lentamente.

Dinero en el odio

En Facebook, las visualizaciones se monetizan: cuanto más engagement, más ingresos. Jóvenes de Asia descubrieron el arbitraje — crear contenido de odio en inglés (un mercado de altos ingresos) y publicarlo a través de una red de cuentas falsas. Una cuenta exitosa obtiene 10 millones de visualizaciones al mes. Este es dinero que se transfiere de vuelta al sur de Asia. Con este dinero se puede vivir, contratar operadores, expandir la fábrica.

• Creación de contenido a través de IA (casi sin costos)
• Publicación a través de una red de cuentas falsas (parece orgánico)
• Monetización a través de Facebook (pagos en dólares)
• Retiro de dinero a países de bajo costo

Por qué funciona

Facebook optimiza el engagement — la reacción, no la verdad. El odio provoca reacción: la gente hace clic, comenta, comparte con ira. Los algoritmos amplifican ese contenido, elevándolo en el feed. La plataforma solo bloquea violaciones obvias (llamadas directas a la violencia). Mientras una cuenta parezca orgánica, el contenido permanece.

Qué significa

Las herramientas (IA para crear, plataformas para publicar, pagos para monetizar) permiten que cualquiera convierta emociones en mercancía. Los creadores no creen en la ideología. Pero las consecuencias son reales: el contenido aviva fobias, divide sociedades, envenena el discurso. Las plataformas eligen la neutralidad sobre la responsabilidad.

*Meta ha sido reconocida como una organización extremista y está prohibida en Rusia.