Crisis de confianza: por qué las etiquetas en contenido de IA no salvarán la realidad

¿Recuerdas cuando los vídeos del lugar de los hechos eran prueba irrefutable? Olvídalo. Hemos entrado oficialmente en una era donde el escepticismo se convierte en la configuración predeterminada de la percepción. Adam Mosseri, jefe de Instagram, recientemente soltó una bomba informativa, afirmando que la sociedad debe dejar de considerar las fotografías y videos como instantáneas precisas de la realidad. No es solo una opinión privada, es un reconocimiento de capitulación de las principales plataformas ante una ola de deepfakes.

En el centro de esta batalla por la verdad se encuentra el estándar C2PA, o Content Credentials. Adobe lideró esta iniciativa, trayendo a Microsoft, Google e incluso OpenAI como aliados. La idea parecía sólida: incrustar un "pasaporte digital" en cada archivo que revelara cuándo se tomó una foto, quién la editó y si la inteligencia artificial tuvo alguna participación. Pero en la práctica, el sistema se parece a un colador con agujeros. La propia OpenAI admite que los metadatos de C2PA son increíblemente fáciles de eliminar—deliberadamente o accidentalmente al subir a redes sociales.

El problema es que la industria nunca ha podido ponerse de acuerdo sobre las reglas del juego. Mientras Google implementa estas etiquetas en sus teléfonos Pixel, Apple—el principal fabricante de cámaras del mundo—mantiene un silencio misterioso. Sin la participación del iPhone, cualquier intento de crear un estándar unificado de autenticidad está condenado al fracaso. Además, nadie se apresura a actualizar cámaras antiguas. Los fotógrafos no corren a comprar nuevas cámaras solo para obtener una marca de "verificado", y fabricantes como Sony y Nikon son extremadamente reacios a compartir sus planes de actualización de firmware para modelos antiguos.

La situación se agrava por la imprecisión del concepto mismo de "fotografía". Hemos estado viviendo durante cinco años en un mundo de fotografía computacional, donde presionar el botón del obturador activa docenas de algoritmos de procesamiento. Modo nocturno, cosido de fotogramas, HDR—¿es esto ya IA o todavía no? Google ahora afirma que el objetivo de una cámara es capturar "recuerdos", no momentos en el tiempo. Cuando los límites de la realidad están tan borrosos a nivel de hardware, exigir un etiquetado claro de "verdad/falsedad" del software se vuelve sin sentido.

La comunidad creativa tampoco está entusiasmada. La etiqueta "Hecho con IA" a menudo se percibe como un estigma que desvaloriza el trabajo del artista. Plataformas como Instagram ya han intentado poner tales insignias en todo, pero se retiraron rápidamente bajo una lluvia de críticas. Los creadores de contenido están furiosos, los usuarios están confundidos, y los algoritmos de redes sociales continúan generando "basura informativa" porque trae vistas y ganancias. Corporaciones como Meta y Google tienen un conflicto de intereses: gastan miles de millones en desarrollar IA mientras simultáneamente deben convencernos de que esta IA es una amenaza que debe etiquetarse.

Nos encontramos en un punto extraño donde incluso los gobiernos usan manipulación con IA para la propaganda, mientras los gigantes tecnológicos se encogen de hombros. La esperanza de que los metadatos salven nuestra comprensión colectiva de la realidad se desvanece. Probablemente enfrentaremos una regulación estricta de los gobiernos, pero ni eso nos devolverá la simplicidad con la que antes confiábamos en los fotogramas de nuestros feeds de noticias. La realidad no solo está cambiando—se está convirtiendo en una cuestión de fe, no de hechos.

Lo fundamental: El estándar C2PA en su forma actual no logra cumplir su papel de salvador de la realidad. Sin la participación de Apple y la disciplina estricta de las redes sociales, el etiquetado de IA seguirá siendo solo un elemento decorativo. ¿Podremos siquiera confiar en información visual en un par de años?