Deepfakes y filtraciones de datos: cómo la IA vulnera la privacidad

Una investigación de MIT Technology Review revela dos graves amenazas para la privacidad que genera la IA actual: mujeres que descubren su cuerpo en vídeos pornográficos falsos creados con deepfakes, y grandes modelos de lenguaje que revelan sin querer números de teléfono privados y otros datos personales.

El porno deepfake como problema global

Cuando Jennifer consiguió trabajo en 2023, pasó su foto profesional por un programa de reconocimiento facial, un procedimiento estándar para los nuevos empleados. Unos días después llegó el golpe: encontró un vídeo en el que su rostro y su cuerpo se habían usado para crear contenido pornográfico sin ningún consentimiento.

La historia de Jennifer dista mucho de ser una excepción. Según varios estudios, más del 99% de todos los vídeos deepfake son pornográficos, y la inmensa mayoría de las víctimas son mujeres y niñas.

Las herramientas para crear estos vídeos son cada vez más accesibles. Hoy, aplicaciones gratuitas y scripts sencillos permiten a cualquiera, sin conocimientos especiales, producir vídeos convincentes en solo unas horas.

El problema crece a escala: las plataformas de alojamiento de contenido luchan contra la oleada de porno deepfake, pero eliminar el material puede ser imposible una vez que se ha difundido. Para las víctimas significa vergüenza permanente, trauma psicológico y, a menudo, la imposibilidad de demostrar ante un tribunal que se trataba de ellas. Además, cada nueva publicación del vídeo provoca un nuevo trauma.

Cuando la IA expone lo personal

A la vez, la investigación halló una segunda amenaza: los grandes modelos de lenguaje reproducen sin querer datos privados. Cuando las personas introducen sus números de teléfono, direcciones de correo y otra información personal en asistentes de IA, esos datos pueden quedar guardados en los datos de entrenamiento y reproducirse después en respuestas a otros usuarios.

Durante el entrenamiento, los modelos absorben enormes volúmenes de texto de internet, incluidos mensajes privados, bases de datos y filtraciones de empresas. El sistema puede reproducir esa información si una consulta adecuada da con ella por casualidad. Los usuarios a menudo no saben que su información personal se ha copiado en el propio modelo y puede quedar expuesta.

• Los números de teléfono se reproducen en un porcentaje significativo de las pruebas
• Las direcciones de correo se exponen aún con más frecuencia
• Los números de seguridad social, las direcciones y otros datos también corren el riesgo de quedar expuestos
• Los usuarios normalmente no están informados de este riesgo al usar el servicio

Un vacío legal

Ni el porno deepfake ni las filtraciones de datos a través de la IA cuentan con una protección legal adecuada en la mayoría de las jurisdicciones. Europa avanza más rápido gracias al RGPD y a la nueva Ley de IA, pero en EE. UU., Rusia y muchos otros países las víctimas suelen quedarse sin una vía real para defender sus derechos.

Las empresas que crean modelos de IA rara vez asumen una responsabilidad suficiente. No existe un estándar común para depurar los datos de entrenamiento de información privada ni multas estrictas por las filtraciones. Algunas empresas ni siquiera revelan si ha habido una filtración y ocultan el problema al público.

Qué significa esto

Estos dos problemas muestran un panorama más amplio: la IA se desarrolla en un vacío legal, con una responsabilidad mínima de los desarrolladores ante las víctimas. Hacen falta soluciones urgentes en tres niveles: técnicas, para filtrar los datos de entrenamiento y defenderse de los deepfakes; jurídicas, con responsabilidad penal por crear y difundir deepfakes pornográficos; y educativas, porque la gente debe conocer estos riesgos.

Sin un enfoque integral, la ola de violaciones de la privacidad solo seguirá creciendo. Los desarrolladores de sistemas de IA deben asumir la responsabilidad de qué datos recopilan y cómo los usan. Y los reguladores, por fin, deben empezar a actuar.