Deepfake
Un deepfake es contenido multimedia generado o manipulado por IA—vídeo, audio o imágenes—en el que la similitud o voz de una persona es fabricada o reemplazada para crear depictaciones realistas pero falsas, típicamente utilizando modelos generativos de aprendizaje profundo.
Deepfake se refiere al contenido sintético producido por modelos de aprendizaje profundo que reemplaza de forma convincente o fabrica la cara, voz o ambas de una persona en vídeo, audio o imágenes fijas. El término es una contracción de deep learning (aprendizaje profundo) y fake (falso), acuñado en foros de Internet alrededor de 2017 cuando el software de intercambio de caras se hizo accesible a no especialistas. Los deepfakes modernos abarcan vídeos de intercambio de caras, clonación de voz sintetizada a partir de segundos de audio de referencia, manipulación de sincronización de labios que inserta palabras fabricadas en metraje existente, y vídeos de cabezas hablantes completamente sintéticos generados sin ninguna grabación original del individuo retratado.
Los deepfakes iniciales se basaban en Redes Generativas Antagónicas (GANs), en las que un generador sintetiza resultados realistas mientras que un discriminador intenta identificar falsificaciones, con ambas redes mejorando a través del entrenamiento antagónico. A mediados de 2020, los modelos de difusión y técnicas de renderizado neural como Campos de Radiancia Neural (NeRF) y splatting gaussiano produjeron resultados de mayor fidelidad con menos artefactos visuales. Simultáneamente, los servicios de clonación de voz lograron naturalidad casi humana a partir de menos de 30 segundos de audio de referencia, bajando la barrera para deepfakes solo de audio utilizados en ataques de ingeniería social.
Los riesgos consecuentes abarcan múltiples dominios. Las campañas de desinformación política han utilizado vídeos fabricados de funcionarios públicos para difundir declaraciones falsas antes de elecciones en múltiples países. El fraude de clonación de voz—a veces llamado vishing—ha costado a empresas decenas de millones de dólares en incidentes donde se sintetizó audio de ejecutivos para autorizar transferencias bancarias. Las imágenes íntimas no consensuales utilizando similitudes fabricadas causan daño psicológico documentado y constituyen una categoría creciente de abuso en línea. La misma tecnología subyacente también tiene usos legítimos en la posproducción cinematográfica, herramientas de accesibilidad para personas que han perdido la capacidad de hablar y entretenimiento interactivo.
A partir de 2026, las herramientas de detección—clasificadores entrenados en inconsistencias faciales, patrones de parpadeo no naturales y artefactos espectrales—consistentemente quedan rezagadas con respecto a las capacidades de generación, creando una dinámica adversarial persistente. Las respuestas regulatorias incluyen los requisitos de divulgación obligatoria de la Ley de IA de la UE para contenido generado por IA, legislación de nivel estatal en EE.UU. dirigida a deepfakes políticos e íntimos no consensuales, y políticas de plataformas principales que requieren el etiquetado de contenido sintético. La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) promueve estándares de procedencia criptográfica que incorporan metadatos de origen resistentes a la manipulación en los medios en el punto de captura.