Por qué Big Tech se ahoga en el «AI slop» que ella misma crea

En los últimos días de 2025, el jefe de Instagram, Adam Mosseri, publicó un mensaje que cuesta describir de otro modo que como un manifiesto de ansiedad digital. «La autenticidad se está volviendo infinitamente reproducible», escribió. Todo lo que hacía relevantes a los creadores de contenido —la capacidad de ser auténticos, de conectar con la audiencia, de tener una voz imposible de falsificar— está ahora al alcance de cualquiera que tenga las herramientas adecuadas.

Mosseri propuso una solución elegante: los fabricantes de cámaras firmarán criptográficamente las imágenes en el momento de la captura y crearán así una cadena de confianza. El resultado sería un sistema fiable para determinar qué no es producto de la inteligencia artificial. Suena a plan.

El problema es que lleva sonando a plan varios años.

The Verge ha señalado una contradicción fundamental que recorre toda la industria. Las empresas que crearon las herramientas de IA generativa y siguen escalándolas actúan, a la vez, como luchadoras contra las consecuencias de su propia tecnología. Meta, propietaria de Instagram y Facebook, desarrolla activamente sus propios modelos generativos, integra funciones de IA en cada producto y fomenta la creación de contenido sintético. Y el mismo directivo de la misma compañía lamenta en público que la autenticidad esté muriendo. No es hipocresía en el sentido clásico: es un conflicto de intereses estructural, incrustado en el modelo de negocio.

El avance en el etiquetado de deepfakes y de contenido generado por IA es, de verdad, desesperantemente lento. El estándar C2PA, al que se refiere Mosseri, prevé incrustar en el propio archivo metadatos sobre el origen de la imagen. Varios fabricantes de cámaras —Sony, Leica, Nikon— ya experimentan con esta tecnología.

Pero entre un prototipo de laboratorio y la adopción masiva hay un abismo. La inmensa mayoría de las fotos del mundo se hacen con smartphones, y ni Apple ni Samsung han integrado hasta ahora C2PA en sus dispositivos a un nivel que pueda considerarse estándar de la industria. Es más, los metadatos se eliminan con facilidad al subirlos a la mayoría de las plataformas, incluida, irónicamente, la propia Instagram.

Hay además un problema más profundo. Aunque el etiquetado de las fotos «reales» funcionara a la perfección, no resuelve el contenido que ya existe. Miles de millones de imágenes subidas antes de que se adoptara el estándar seguirán sin firma. La ausencia de marca criptográfica no significará que la foto sea falsa; solo significará que se hizo antes de la era del etiquetado o con un dispositivo sin soporte para el estándar. Un sistema incapaz de distinguir una foto auténtica antigua de un falso nuevo tiene un valor limitado.

Mientras tanto, la escala del AI slop —contenido sintético de baja calidad que llena los feeds y los resultados de búsqueda— sigue creciendo de forma exponencial. Facebook ya es un lugar donde las imágenes generadas por IA acumulan millones de «me gusta» y reposts. Los resultados de búsqueda de Google se llenan de sitios con textos de IA. Amazon lidia con un aluvión de libros escritos por modelos de lenguaje. Cada una de estas empresas es a la vez víctima y fuente del problema: ofrecen las herramientas para generar contenido, las plataformas para difundirlo y los algoritmos que premian su capacidad de enganche.

Los críticos señalan con razón que los gigantes tecnológicos no tienen un incentivo económico para resolver de verdad este problema. El contenido sintético genera interacción, la interacción genera ingresos publicitarios, y los ingresos publicitarios son la razón de ser de estas plataformas. Etiquetar el contenido de IA, si se hiciera de forma honesta y generalizada, podría reducir la interacción con él y, por tanto, golpear las métricas que se muestran a los inversores en los informes trimestrales. Bajo esta luz, las declaraciones de Mosseri parecen menos un plan de acción que un ejercicio de relaciones públicas: nombrar el problema, ofrecer una solución tecnológica lejana y seguir lucrándose con el statu quo.

La situación recuerda a las tabacaleras que durante décadas financiaron investigaciones sobre los daños del tabaco mientras seguían vendiendo cigarrillos. La diferencia es que el AI slop no mata literalmente: destruye el entorno informativo, socava la confianza en las pruebas visuales y crea un mundo en el que distinguir la verdad de la ficción pasa a ser una tarea que requiere conocimientos técnicos. Si las grandes tecnológicas quieren de verdad combatir este fenómeno, deberían empezar no por las firmas criptográficas en las cámaras, sino por sus propios productos: limitar las herramientas generativas, etiquetar con transparencia en sus plataformas y diseñar algoritmos que no empujen contenido sintético a los feeds de miles de millones de usuarios.

Mientras eso no ocurra, toda charla sobre la lucha contra el AI slop seguirá siendo justo lo que es: slop de otro tipo.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.