Investigadores: los deepfakes con Trump y militares femeninas falsas se han convertido en arma de propaganda

Los deepfakes políticos dejan rápidamente de ser simples memes o parodias. Los investigadores advierten de que los personajes sintéticos creados con IA generativa ya ganan dinero, reúnen audiencias y funcionan como una forma cómoda de propaganda, incluso si el espectador sospecha que se trata de una falsificación.

La escala de la nueva oleada

El laboratorio Governance and Responsible AI Lab (Grail) registra un aumento brusco de este tipo de contenido. Desde principios de 2025, los investigadores han contado más de 1.000 publicaciones en redes sociales en inglés con imágenes y vídeos falsos sobre políticos, acontecimientos de relevancia pública y temas polémicos. En comparación, en los ocho años anteriores juntos la base de datos de Grail recogió 1.344 casos similares. Este salto se atribuye no solo a la popularidad del tema, sino también a que los modelos generativos han convertido la creación de una escena verosímil en una tarea casi instantánea.

El cambio principal no es que haya más falsificaciones de personas conocidas. Los creadores inventan cada vez más personajes que no existen y los sitúan en contextos de fuerte carga política: cuarteles, comisarías, zonas de conflicto, mítines. Ya no se trata solo de cambiar la cara de un político en un vídeo, sino de construir toda una «realidad» en la que el espectador recibe no un hecho, sino una imagen que encaja con sus creencias. Ahí reside la nueva fuerza de los deepfakes: no necesitan ser exactos, les basta con parecer verosímiles.

Dinero y convicciones

Uno de los ejemplos más visibles es el personaje de IA Jessica Foster, una rubia con uniforme militar estadounidense que apareció en Instagram en diciembre de 2025. Las publicaciones con ella, tumbada en una cama de un cuartel, en un despacho con los pies sobre la mesa y junto a Donald Trump en una pista de aterrizaje con tacones, lograron una enorme audiencia. La cuenta tenía más de un millón de seguidores y el tráfico se dirigía después a OnlyFans, donde se vendían a los usuarios supuestas fotos suyas. Es decir, la imagen sintética funcionaba a la vez como símbolo visual político y como producto comercial.

Ya hay casos similares en varios formatos:

• falsos «soldados iraníes» en vídeos pensados para volverse virales durante la guerra
• una policía de IA en TikTok con más de 26.000 seguidores y mensajes de apoyo a una política de deportaciones dura
• al menos 18 deepfakes publicados por Donald Trump y la Casa Blanca desde 2024
• deepfakes contra Trump, que también ha empezado a usar el gobernador de California, Gavin Newsom

Los investigadores subrayan por separado un efecto desagradable: este contenido puede convencer incluso cuando el espectador percibe rarezas. Distintivos incorrectos, escenas absurdas, detalles que no encajan y un estilo visual demasiado pulido no necesariamente reducen su impacto. Si la imagen respalda una opinión que la persona ya tiene, actúa como confirmación emocional. En esta lógica, el deepfake no sirve para probar un hecho, sino para reforzar una sensación: «esto parece verdad, así que lo es».

Etiquetas y defensa

Por ahora, la defensa se apoya sobre todo en estándares de procedencia del contenido y en etiquetas automáticas. La Coalition for Content Provenance and Authenticity promueve un enfoque en el que se incrustan en la imagen o el vídeo metadatos firmados criptográficamente: dónde se creó el archivo, si se editó con herramientas de IA y qué ocurrió después con él. La idea es sencilla: si una plataforma sabe leer esa información, puede avisar al usuario antes de que el contenido sintético se propague por los feeds.

Por ahora funciona mal. En un experimento de un periodista de The Indicator, se subieron 200 imágenes y vídeos de IA a grandes plataformas para comprobar cómo los etiquetan. Incluso los mejores resultados, los de LinkedIn y Pinterest, cubrieron solo cerca del 67 % del material. Instagram marcó únicamente 15 de 105 imágenes falsas.

Al mismo tiempo, los investigadores advierten de la siguiente etapa: los AI swarms, en los que redes de cuentas sintéticas podrían coordinarse de forma autónoma, infiltrarse en comunidades e imitar un consenso social sin las habituales «fábricas de trolls» de personas reales.

Qué significa

El riesgo político ya no se reduce a la pregunta de si la gente creerá la falsificación al pie de la letra. Importa mucho más si refuerza una emoción concreta, la imagen de un enemigo o la sensación de tener razón. Mientras las plataformas etiquetan lento el contenido de IA y la monetización de estos personajes funciona rápido, los deepfakes se usarán cada vez más no solo para entretener, sino también para persuadir, radicalizar y vender.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.