Google amplía SynthID: el marcado invisible de contenido de IA se convierte en estándar

En la conferencia Google I/O, la compañía anunció una expansión importante de SynthID, la tecnología para marcar contenido de IA. Este es un intento de contrarrestar la ola de imágenes y vídeos falsificados que ya han comenzado a afectar la percepción de la realidad en las redes sociales.

Cómo funciona el marcado invisible

SynthID es una marca de agua invisible que se integra en los píxeles de una imagen o en la pista de audio cuando el contenido se crea con modelos de IA. El ojo humano no puede verla, pero un sistema de verificación puede detectar los metadatos. Funciona como una firma que el sistema puede leer, pero que no daña el contenido.

En paralelo se desarrolla el estándar C2PA (Coalition for Content Provenance and Authenticity), un consorcio industrial que registra previamente dónde y cuándo se creó el contenido. Estas dos tecnologías se complementan entre sí: SynthID es una marca de agua interna, C2PA es un historial público de origen.

• El marcado invisible se añade automáticamente al generar en Gemini, Imagen y otros servicios de IA de Google
• La verificación funciona directamente en el navegador a través de Chrome y en dispositivos móviles a través de Android
• El estándar C2PA es respaldado por YouTube, OpenAI, Meta y otros grandes actores

Escala del problema

Hasta ahora, el sistema operaba en modo semiclandestino. La expansión de Google significa que ahora millones de usuarios tendrán una herramienta de verificación en lugares familiares para ellos. La historia viral sobre el Papa Francisco con un abrigo de diseñador mostró la velocidad de propagación de imágenes falsificadas por IA. En cuestión de horas acumuló millones de visualizaciones antes de que la gente se diera cuenta de que era un fraude. Si SynthID estuviera implementado, la verificación habría tomado un segundo.

No es solo entretenimiento. Las campañas de desinformación utilizan deepfakes de IA para manipular antes de las elecciones, socavando la confianza en los medios. Las primeras elecciones bajo el asalto del contenido sintético ya están sucediendo en este momento.

«Debemos encontrar un equilibrio entre la protección contra la desinformación y la preservación de la libertad creativa», la esencia de la posición de

Google.

Dónde estará disponible

Chrome añadirá una herramienta de verificación incorporada para imágenes. YouTube marcará vídeos con contenido generado por IA. Android mostrará un icono de autenticidad en la galería. Google Lens (búsqueda por imagen) podrá identificar contenido marcado automáticamente. Pero el sistema tiene brechas. SynthID funciona para contenido creado por IA de Google. Para modelos de OpenAI, Meta, Midjourney, se necesitan sus propios marcados. Y si algún sistema no integra verificación, los fraudes seguirán existiendo.

Qué significa esto

Estamos entrando en un período crítico, cuando la verdad y la mentira en internet se convertirán no en una cuestión de confianza, sino en una cuestión de herramientas. SynthID y C2PA son los primeros pasos hacia un mundo donde la autenticidad de los medios se verifica como un pago.

*Meta ha sido reconocida como una organización extremista y prohibida en la Federación Rusa.