OpenAI detalla los principios de seguridad de Sora 2, de los deepfakes al etiquetado de contenido

OpenAI ha publicado una descripción detallada del enfoque de seguridad que sustenta Sora 2, la nueva versión de su modelo de generación de vídeo, y la aplicación homónima para crear contenido. La compañía subraya que la seguridad no se añadió sobre un producto terminado, sino que se incorporó a la arquitectura desde el comienzo del desarrollo.

Sora 2 es la nueva generación del modelo de vídeo de OpenAI, capaz de generar vídeos realistas a partir de indicaciones de texto e imagen con una calidad sustancialmente mayor. A la vez, OpenAI ha lanzado Sora como plataforma social independiente, orientada a usuarios creativos: artistas, cineastas, bloguers y creadores de contenido. Según la compañía, es precisamente la combinación de un modelo potente y una plataforma pública abierta lo que plantea retos de seguridad radicalmente nuevos, que el sector no había afrontado antes a esta escala.

La protección se organiza en varias capas. La primera es el control en el propio modelo. Sora 2 está entrenada para rechazar solicitudes que infrinjan la política de uso aceptable: crear deepfakes de personas reales sin su consentimiento, contenido sexualizado con menores, o material que promueva la violencia o difunda desinformación. Esta capa está integrada directamente en los pesos del modelo y se activa antes de que se empiece a generar cualquier contenido.

La segunda capa son las medidas de la plataforma. La aplicación Sora incluye verificación de edad, restricciones regionales para ciertos tipos de contenido, sistemas de denuncia y herramientas de moderación que permiten a los usuarios notificar infracciones.

La atribución del contenido merece mención aparte. Todos los vídeos creados con Sora se etiquetan con el estándar C2PA (Coalition for Content Provenance and Authenticity), un conjunto de metadatos técnicos que permite identificar el material como generado por IA. Esto significa que, incluso después de descargar y volver a publicar un vídeo, su origen puede establecerse técnicamente. La iniciativa busca combatir la desinformación: redacciones, plataformas y usuarios corrientes podrán ver qué ha creado la IA y qué se ha grabado con una cámara.

Otro elemento importante son las pruebas externas. Antes del lanzamiento público, OpenAI realizó un red teaming a gran escala: investigadores de seguridad independientes, cineastas y organizaciones de derechos humanos sometieron el modelo a pruebas de estrés para detectar vulnerabilidades y formas de eludir las restricciones. Sus hallazgos influyeron directamente en la configuración final del sistema de seguridad.

La compañía reconoce abiertamente que ningún mecanismo de protección ofrece garantías absolutas. La apuesta es una defensa por capas: restricciones del modelo, reglas de la plataforma, atribución técnica y herramientas de moderación. En lugar de buscar un único filtro perfecto, OpenAI construye un sistema de barreras complementarias, cada una de las cuales dificulta el abuso.

Lanzar al público modelos de vídeo potentes siempre supone un equilibrio entre potencial creativo y riesgos. Cuanto más realista es el contenido sintético, más alto es lo que está en juego para la sociedad. La verdadera prueba del enfoque de OpenAI llegará no en el momento del lanzamiento, sino cuando millones de personas empiecen a usar Sora 2 en contextos muy diversos, incluidos los impredecibles.