IA generó foto de policías tailandeses en vestidos festivos para 'amabilidad'

IA creó foto de policías tailandeses en vestidos festivos para la "amabilidad"

Un administrador de una página de policía tailandesa en Facebook creó una imagen generada por IA para mejorar la imagen de las fuerzas del orden. En la foto: cinco hombres y una mujer en vestidos festivos brillantes rodean a un traficante de drogas detenido. La imagen se veía tan convincente que fue notada por grandes publicaciones británicas y se difundió por todo el mundo antes de que se descubriera la falsificación.

Cómo la foto se propagó a los medios mundiales

Era material perfecto para las redacciones. Una historia sobre policías severos que aparecen en alegres trajes festivos es irresistible para la audiencia de tabloides. La imagen llegó a la portada del Daily Star, uno de los tabloides británicos más famosos, y también fue utilizada en publicaciones de Telegraph, The Sun y New York Post.

La velocidad de propagación fue impresionante: desde una cuenta local de Facebook tailandesa, la foto se difundió a los medios de habla inglesa e internet en cuestión de horas. Las redacciones competían por publicar primero la historia llamativa sobre la operación inusual. Los enlaces y capturas de pantalla se propagaron en las redes sociales, acumulando millones de visualizaciones.

Solo después de algún tiempo, cuando la historia ya había circulado por todo internet, periodistas y analistas que verificaron los hechos descubrieron que la imagen fue completamente generada por una red neuronal.

Por qué la falsificación no fue notada inmediatamente

A pesar del rápido desarrollo de tecnologías de IA generativa y la creciente popularidad de tales herramientas, la mayoría de las personas, incluidos los periodistas profesionales, aún no están entrenadas para detectar artefactos de imágenes sintéticas. Al verificar noticias, generalmente se verifica la fuente y el contexto, en lugar de analizar la imagen en sí para detectar signos de síntesis. En este caso, la falsificación fue particularmente convincente por varias razones clave:

• La foto tenía contexto lógico y provenía de una fuente oficial (una cuenta de policía)
• Los vestidos festivos son un detalle interesante y memorable que atrae la atención
• La imagen fue técnicamente bien ejecutada, sin errores evidentes ni artefactos
• La historia sonaba plausible y tenía un fuerte interés humano

Motivo y consecuencias

El administrador de la página quería mostrar un lado más humano y amigable de las fuerzas del orden. Esto refleja una tendencia creciente en la que los organismos gubernamentales trabajan activamente en su imagen en las redes sociales e intentan parecer más cercanos al público. Usar IA para crear tal contenido plantea preguntas importantes sobre los límites de lo aceptable: ¿mejora el contenido creativo las relaciones públicas, o es ya manipulación de la audiencia y violación de la confianza en la información?

Qué significa esto

Este incidente demuestra cuán difusa es la línea entre la realidad y el contenido sintético en la era digital. Cuando incluso los equipos editoriales profesionales de grandes publicaciones internacionales caen en la trampa de un engaño convincente, es una señal de un problema generalizado en todo el panorama mediático. Necesitamos nuevos estándares de verificación de contenido, capacitación de periodistas en la detección de imágenes sintéticas y un enfoque más crítico hacia las fuentes — especialmente cuando la noticia se ve demasiado perfecta y emocionalmente atractiva. Las tecnologías se desarrollan más rápido que nuestra capacidad para reconocerlas.

*Meta es reconocida como una organización extremista y está prohibida en la Federación Rusa.