OpenAI presenta herramientas para verificar el origen de los contenidos generados por IA

OpenAI ha presentado un conjunto de herramientas para rastrear y verificar contenido generado por IA. Content Credentials, SynthID y una herramienta de verificación buscan ayudar a personas y organizaciones a orientarse con más seguridad en los medios digitales.

Qué tecnologías incluye el conjunto

Content Credentials son metadatos especiales que se adjuntan al contenido generado por IA y permiten rastrear su origen. Funcionan como un «certificado de autenticidad» de los materiales digitales: indican la tecnología, la herramienta y la empresa que crearon el archivo.

SynthID es una tecnología que incrusta en las imágenes generadas por IA huellas digitales invisibles para el ojo humano. Así se puede determinar de forma inequívoca que una imagen o un vídeo fue creado por inteligencia artificial. La huella se conserva incluso con la compresión, el recorte u otras modificaciones del archivo.

El tercer componente es una herramienta de verificación que permite a personas y organizaciones comprobar la presencia de estas marcas y determinar la autenticidad del contenido.

Por qué es crítico

En una época en que la IA puede crear fotografías, vídeos y textos convincentes, la incapacidad de distinguir el contenido generado del auténtico se convierte en una amenaza. Los vídeos falsos, las imágenes manipuladas y la desinformación ya causan daño tanto a personas concretas como a la sociedad en su conjunto. Es especialmente peligroso antes de unas elecciones, cuando un deepfake puede influir en la opinión pública, o en los medios, donde las fotos falsas socavan la confianza en las fuentes.

• Lucha contra la desinformación y los vídeos falsos
• Protección de los derechos de autor de los creadores de contenido
• Recuperación de la confianza en los medios en internet
• Ayuda a los periodistas en la verificación de fuentes
• Apoyo al marco normativo y a la regulación

OpenAI subraya que la transparencia debe integrarse en la tecnología desde el principio, y no añadirse a posteriori.

Qué significa

Es un paso importante, pero no una panacea. Para que el sistema funcione con eficacia hacen falta estándares intersectoriales, el respaldo de otras empresas y plataformas, y una mayor alfabetización digital de la población. OpenAI asume la responsabilidad por sus herramientas, pero una lucha real contra la desinformación exigirá acciones coordinadas de todo el ecosistema de la IA y los medios.