YouTube amplía la detección de semejanza por AI para celebridades — ahora pueden combatir los deepfakes

YouTube ha anunciado la expansión de su herramienta de reconocimiento facial basada en IA para celebridades — los artistas y sus representantes ahora podrán detectar automáticamente deepfakes e impulsar su eliminación de la plataforma. Los deepfakes son vídeos sintéticos donde las redes neuronales superponen el rostro o la voz de otra persona en grabaciones existentes — se han convertido en uno de los principales problemas para las personalidades públicas en los últimos dos años. Las herramientas para generar este tipo de contenido son cada vez más asequibles y accesibles: hoy es posible crear un deepfake convincente de una persona famosa de forma gratuita, en solo unos minutos, sin conocimientos especializados.

YouTube, con más de dos mil millones de usuarios activos mensuales, se ha convertido en una de las principales plataformas para distribuir este contenido.

Hasta ahora, la tecnología de reconocimiento facial basada en IA estaba disponible solo para un círculo limitado de asociados — principalmente discográficas y artistas de la industria musical con los que YouTube tiene acuerdos directos. Ahora la plataforma está expandiendo el acceso a la herramienta a celebridades en general: actores, atletas, presentadores de televisión, grandes influencers y otras personalidades públicas. Sus gerentes, agencias y representantes legales podrán registrar los datos de apariencia del cliente en el sistema de YouTube, después de lo cual el algoritmo comenzará a escanear automáticamente los vídeos cargados e identificar materiales que potencialmente usan la apariencia de la persona registrada sin su consentimiento.

El mecanismo es similar al ya familiar sistema Content ID, que YouTube ha usado durante mucho tiempo para proteger los derechos de autor de la música y el vídeo. Solo que en lugar de una huella digital de audio o firma de vídeo, el nuevo sistema compara características faciales biométricas. El material detectado no se elimina automáticamente — en su lugar, el representante de la celebridad recibe una notificación y puede iniciar una solicitud de eliminación.

La decisión final recae en el equipo de moderación de YouTube.

Este paso parece ser una continuación lógica de la política de la plataforma con respecto al contenido sintético. En 2024, YouTube requirió que los creadores etiquetaran el contenido generado por IA realista con una etiqueta especial. Ese mismo año, la empresa introdujo un mecanismo de denuncia mediante el cual cualquier persona puede solicitar la eliminación de un vídeo que la retrate de forma sintética sin su consentimiento. La herramienta de detección de IA lleva este proceso al siguiente nivel: el sistema identifica violaciones por sí solo sin esperar una denuncia de la víctima.

El problema de los deepfakes se ha vuelto particularmente agudo tras varios casos de alto perfil. A principios de 2024, imágenes íntimas sintéticas de Taylor Swift se distribuyeron masivamente en línea — esto provocó una ola de indignación pública e impulsó una discusión sobre la regulación legislativa. Ese mismo año, varios influencers importantes descubrieron que sus rostros estaban siendo utilizados en anuncios deepfake que promocionaban esquemas financieros fraudulentos. YouTube carga más de 500 horas de vídeo cada minuto — la moderación manual de ese volumen es físicamente imposible.

Para YouTube, la iniciativa también tiene una dimensión comercial: las celebridades y sus discográficas son socios publicitarios importantes y los principales proveedores de contenido monetizable. Los escándalos relacionados con deepfakes dañan la reputación no solo de las víctimas, sino de la propia plataforma. Desarrollar herramientas de protección es una forma de retener a los principales asociados de la industria del entretenimiento y posicionarse como una plataforma responsable ante regulaciones cada vez más estrictas.

La Ley de IA Europea, que entrará en vigor en fases entre 2025 y 2027, requiere directamente el etiquetado del contenido sintético. California ya ha aprobado leyes que criminalizan la creación y distribución de deepfakes en contextos políticos e íntimos. Las plataformas que no demuestren un trabajo activo en esta área corren el riesgo de enfrentar sanciones regulatorias.

Lo que permanece como una pregunta abierta es la escala real: cuántas celebridades tendrán acceso a la herramienta, cuán precisa es la detección y si se prevé protección contra denuncias falsas. YouTube aún no ha divulgado detalles técnicos.