Crisis de confianza: por qué las etiquetas en el contenido generado por IA no salvarán la realidad

¿Recuerdas cuando un vídeo grabado en el lugar de los hechos era una prueba irrefutable? Olvídalo. Hemos entrado oficialmente en una época en la que el escepticismo se convierte en el ajuste por defecto de nuestra percepción. El responsable de Instagram, Adam Mosseri, lanzó hace poco una auténtica bomba informativa al afirmar que la sociedad debe dejar de considerar las fotos y los vídeos como copias fieles de la realidad. Va más allá de una opinión personal: supone reconocer que las grandes plataformas han capitulado ante la oleada de deepfakes.

En el centro de esta batalla por la verdad está el estándar C2PA, también conocido como Content Credentials. Adobe lidera la iniciativa y ha sumado como aliados a Microsoft, Google e incluso OpenAI. La idea parecía sensata: incrustar en cada archivo un «pasaporte digital» que indique cuándo se tomó la imagen, quién la editó y si intervino la inteligencia artificial. Pero en la práctica el sistema funciona como un colador. La propia OpenAI admite que los metadatos de C2PA se eliminan con una facilidad pasmosa, ya sea de forma intencionada o accidental al subir el archivo a redes sociales.

El problema es que la industria nunca ha logrado ponerse de acuerdo sobre las reglas del juego. Mientras Google integra estas marcas en sus smartphones Pixel, Apple, el mayor fabricante de cámaras del mundo, guarda un silencio enigmático. Sin el iPhone, cualquier intento de crear un estándar unificado de autenticidad está condenado al fracaso. Además, nadie tiene prisa por actualizar las cámaras antiguas. Los fotógrafos no van a correr a comprar cuerpos nuevos solo para conseguir la marca de «verificado», y fabricantes como Sony y Nikon se muestran muy reacios a compartir sus planes de actualizar el firmware de modelos anteriores.

La situación se complica aún más porque el propio concepto de «fotografía» se ha vuelto difuso. Llevamos ya cinco años en la era de la fotografía computacional, en la que pulsar el disparador pone en marcha decenas de algoritmos de procesamiento. El modo nocturno, la fusión de fotogramas, el HDR: ¿eso ya es IA o todavía no? Google llega a afirmar ahora que el objetivo de la cámara es capturar «recuerdos», y no instantes en el tiempo. Cuando los límites de la realidad se difuminan hasta este punto a nivel de hardware, exigir al software una etiqueta clara de «verdadero/falso» pierde todo sentido.

La comunidad creativa tampoco está entusiasmada. La etiqueta «Hecho con IA» se percibe a menudo como un estigma que devalúa el trabajo del artista. Plataformas como Instagram ya intentaron colgar estos avisos en todo tipo de contenidos, pero dieron marcha atrás rápidamente ante la avalancha de críticas. Los creadores están furiosos, los usuarios confundidos, y los algoritmos de las redes sociales siguen multiplicando la «basura informativa» porque genera visualizaciones y beneficios. Corporaciones como Meta y Google tienen un conflicto de intereses: invierten miles de millones en desarrollar IA y, al mismo tiempo, deben convencernos de que esa misma IA es una amenaza que hay que etiquetar.

Hemos llegado a un punto extraño en el que incluso los gobiernos usan manipulaciones con IA para hacer propaganda, mientras los gigantes tecnológicos se encogen de hombros. La esperanza de que los metadatos salven nuestra comprensión compartida de la realidad se desvanece. Lo más probable es que llegue una regulación estricta por parte de los Estados, pero ni siquiera eso nos devolverá la sencillez con la que antes confiábamos en las imágenes de nuestro feed de noticias. La realidad está cambiando, y además se está convirtiendo en una cuestión de fe, no de hechos.

Lo esencial: el estándar C2PA, en su forma actual, no está a la altura del papel de salvador de la realidad. Sin la participación de Apple y sin una disciplina estricta por parte de las redes sociales, el etiquetado de la IA seguirá siendo un elemento meramente decorativo. ¿Podremos siquiera confiar en la información visual dentro de un par de años?

*Meta está reconocida como organización extremista y prohibida en Rusia.