OpenAI presentó herramientas para verificar la autoría de contenido generado por IA

OpenAI presentó un conjunto de herramientas para rastrear y verificar contenido generado por IA. Content Credentials, SynthID y la herramienta de verificación tienen como objetivo ayudar a personas y organizaciones a navegar de forma más segura en el mundo de los medios digitales.

Qué tecnologías incluye el conjunto

Content Credentials son metadatos especiales que se adjuntan al contenido generado por IA y permiten rastrear su origen. Funcionan como un "certificado de autenticidad" para materiales digitales, indicando la tecnología, herramienta y empresa que crearon el archivo.

SynthID es una tecnología de inserción de huellas digitales en imágenes generadas por IA, invisibles para el ojo humano. Esto permite determinar de manera inequívoca que la imagen o vídeo fueron creados por inteligencia artificial. La huella se mantiene incluso durante la compresión, recorte u otros cambios del archivo.

El tercer componente es la herramienta de verificación, que permite a personas y organizaciones verificar la presencia de estas marcas y determinar la autenticidad del contenido.

Por qué es crítico

En una época en la que la IA puede crear fotos, vídeos y textos convincentes, la incapacidad de distinguir contenido generado de contenido auténtico se convierte en una amenaza. Los vídeos falsos, imágenes manipuladas y la desinformación ya están causando daño tanto a individuos como a la sociedad en su conjunto. Esto es especialmente peligroso antes de elecciones, cuando un deepfake puede influir en la opinión pública, o en medios donde fotos falsas socavan la confianza en las fuentes.

• Combatir la desinformación y vídeos falsos
• Proteger los derechos de autor de los creadores de contenido
• Restaurar la confianza en los medios de internet
• Ayudar a los periodistas en la verificación de fuentes
• Apoyar la base normativa y regulación

OpenAI enfatiza que la transparencia debe estar integrada en la tecnología desde el principio, no añadida posteriormente.

Qué significa esto

Este es un paso importante, pero no es una panacea. Para que el sistema funcione de manera efectiva, se necesitan estándares de toda la industria, apoyo de otras empresas y plataformas, así como una mayor alfabetización digital de las personas. OpenAI se responsabiliza por sus herramientas, pero la lucha real contra la desinformación requerirá acciones coordinadas de todo el ecosistema de IA y medios.