Por qué la Big Tech se hunde en el AI slop que ella misma crea

Por Qué Big Tech Se Ahoga en el AI-Slop Que Ella Misma Crea

En los últimos días de 2025, el jefe de Instagram Adam Mosseri publicó un post que difícilmente puede llamarse de otra forma que no sea un manifiesto de ansiedad digital. "La autenticidad se ha vuelto infinitamente reproducible", escribió. Todo lo que hacía que los creadores de contenido fueran significativos — la capacidad de ser genuino, de establecer una conexión con la audiencia, de tener una voz que no puede ser falsificada — ahora está disponible para cualquiera que tenga las herramientas adecuadas.

Mosseri propuso una solución elegante: los fabricantes de cámaras firmarían criptográficamente las fotografías en el momento de la captura, creando una cadena de confianza. El resultado sería un sistema confiable para determinar lo que no es un producto de inteligencia artificial. Suena como un plan.

El problema es que suena como un plan desde hace varios años.

The Verge señaló la contradicción fundamental que permea toda la industria. Las empresas que crearon y continúan escalando herramientas de IA generativa simultáneamente juegan el papel de luchadores contra las consecuencias de su propia tecnología. Meta, que es propietaria de Instagram y Facebook, desarrolla activamente sus propios modelos generativos, integra funciones de IA en cada producto y fomenta la creación de contenido sintético. Y el muy mismo ejecutivo de la muy misma empresa se lamenta públicamente de que la autenticidad está muriendo. Esto no es hipocresía en el sentido clásico — es un conflicto estructural de intereses incorporado en el modelo de negocio.

El progreso en el campo de la detección de deepfakes y contenido generado por IA es efectivamente frustrante lentitud. El estándar C2PA al que se refiere Mosseri presume incrustar metadatos de origen de imagen directamente en el archivo. Varios fabricantes de cámaras — Sony, Leica, Nikon — ya están experimentando con esta tecnología.

Pero hay un abismo entre un prototipo de laboratorio e la implementación masiva. La abrumadora mayoría de las fotografías en el mundo se toman en teléfonos inteligentes, y ni Apple ni Samsung han integrado aún C2PA en sus dispositivos de una manera que pudiera llamarse un estándar de la industria. Además, los metadatos se eliminan fácilmente al cargar en la mayoría de las plataformas — incluyendo, irónicamente, el propio Instagram.

Existe un problema más profundo. Incluso si el marcado de fotografías "auténticas" funcionara perfectamente, no resolvería la cuestión del contenido que ya existe. Miles de millones de imágenes cargadas antes de la implementación del estándar permanecerán sin firmar. La ausencia de una firma criptográfica no significará que una fotografía sea falsa — significará solo que fue tomada antes de la era del marcado o en un dispositivo sin soporte del estándar. Un sistema que no puede distinguir fotos antiguas genuinas de falsificaciones nuevas tiene valor limitado.

Mientras tanto, la escala del problema del AI-slop — contenido sintético de baja calidad que llena feeds y resultados de búsqueda — continúa creciendo exponencialmente. Facebook ya se ha convertido en una plataforma donde las imágenes generadas por IA obtienen millones de likes y comparticiones. Los resultados de búsqueda de Google están obstruidos con sitios de texto generado por IA. Amazon lucha contra una avalancha de libros escritos por modelos de lenguaje. Cada una de estas empresas es simultáneamente víctima y fuente del problema — proporcionan herramientas para generar contenido, plataformas para distribuirlo y algoritmos que recompensan sus propiedades atractivas.

Los críticos señalan con razón que los gigantes tecnológicos no tienen incentivo económico para resolver verdaderamente este problema. El contenido sintético genera engagement, el engagement genera ingresos publicitarios, e ingresos publicitarios es aquello por lo que estas plataformas existen. Marcar contenido de IA, si se implementa honesta y universalmente, podría reducir la interacción con tal contenido y, por lo tanto, afectar las métricas mostradas a los inversores en reportes trimestrales. A esta luz, las declaraciones de Mosseri parecen no como un plan de acción, sino como un ejercicio de relaciones públicas: identificar el problema, proponer una solución tecnológica lejana y continuar ganando dinero del status quo.

La situación recuerda cómo las empresas tabacaleras pasaron décadas financiando investigaciones sobre los daños del tabaquismo mientras simultáneamente continuaban vendiendo cigarrillos. La diferencia es que el AI-slop no mata literalmente — destruye el entorno informativo, socava la confianza en la evidencia visual y crea un mundo en el cual distinguir la verdad de la ficción se convierte en una tarea que requiere experiencia técnica. Si las empresas tecnológicas más grandes realmente quieren luchar contra este fenómeno, deben comenzar no con firmas criptográficas en cámaras, sino con sus propios productos — con la limitación de herramientas generativas, con marcado transparente en sus propias plataformas, con algoritmos que no impulsarán contenido sintético a los feeds de miles de millones de usuarios.

Hasta que esto ocurra, toda charla sobre luchar contra el AI-slop permanecerá siendo exactamente lo que es — slop de otro tipo.