La UE prohibirá los deepfakes íntimos sin consentimiento tras el escándalo de Grok

El 11 de marzo de 2026, el Parlamento Europeo alcanzó un acuerdo político sobre las enmiendas a la Ley de IA (AI Act) de la Unión Europea, que por primera vez introducen una prohibición directa de crear imágenes íntimas sin consentimiento mediante inteligencia artificial. La decisión es consecuencia directa del escándalo de Grok.

¿Qué escándalo provocó la prohibición?

La enmienda está directamente vinculada a la repercusión pública de Grok, un producto de IA que se ha visto en el centro de un escándalo por la creación de imágenes íntimas sin consentimiento con IA generativa. Esa historia fue el catalizador que llevó la cuestión al nivel de las enmiendas legislativas de la AI Act. Ilustra con claridad el daño concreto que pueden causar las herramientas de generación de imágenes sin restricciones integradas cuando se pueden usar para crear contenido sexualizado sobre personas reales sin su consentimiento.

Grok es un producto de la empresa xAI, integrado, entre otras cosas, con una función de generación de imágenes disponible para un público amplio. Esa disponibilidad de herramientas para el gran público, y no solo para actores especializados, es lo que hace sistémico el problema de los deepfakes íntimos sin consentimiento: puede verse afectada prácticamente cualquier persona cuyas fotos estén en acceso abierto, y no solo las figuras públicas en las que se centraba tradicionalmente la regulación anterior sobre difamación y protección de la imagen.

• Fecha del acuerdo político: 11 de marzo de 2026
• Regulación: enmiendas a la AI Act de la UE
• Contenido de la enmienda: prohibición directa de las imágenes íntimas sin consentimiento creadas con IA
• Motivo: el escándalo de Grok
• La aprobación requirió una coalición de 57 eurodiputados

Cómo se tomó la decisión

Según The Next Web, para llevar la enmienda a un acuerdo político hizo falta una coalición de 57 eurodiputados. La decisión fue fruto de una presión legislativa deliberada, y no de una ampliación automática de las normas ya existentes de la AI Act. Incluso dentro de una regulación de IA ya aprobada y considerada avanzada, las prohibiciones concretas y específicas aparecen de forma reactiva, como respuesta a un incidente sonado y no como una medida prevista de antemano.

El simple hecho de que una enmienda puntual a una ley ya en vigor exigiera movilizar a decenas de eurodiputados y un escándalo público muestra lo complejo que es el proceso legislativo de la Unión Europea, incluso frente a prácticas relativamente claras en su carácter dañino. Apunta además a un patrón general en la regulación de la IA: las normas marco básicas se adoptan con antelación, mientras que las prohibiciones concretas y detalladas de tipos específicos de daño suelen llegar a posteriori, como reacción a un incidente que ya ha causado revuelo, y no como resultado de un análisis preventivo de riesgos.

¿Qué cambiará para las plataformas de IA?

Incluso antes de esta enmienda, la AI Act se consideraba la norma más completa sobre inteligencia artificial entre las grandes jurisdicciones del mundo, con requisitos de transparencia, evaluación de riesgos y restricciones para los sistemas de alto riesgo. Añadir una prohibición separada y expresamente formulada de los deepfakes íntimos sin consentimiento traslada esta categoría de daño de «potencialmente incluida en las normas generales sobre contenido dañino» a práctica directamente prohibida. Para las plataformas que ofrecen herramientas de generación de imágenes en la UE, eso significa integrar los filtros y restricciones correspondientes, bajo la amenaza de una infracción directa de la ley y no de una norma general y más difusa.

Para las empresas globales de IA que operan en el mercado europeo, estas enmiendas puntuales suponen una lista de requisitos cada vez más larga y detallada para los productos de generación de imágenes y vídeo. No basta con adaptar una vez el sistema a los principios básicos de la AI Act: hay que seguir con regularidad los nuevos precedentes y enmiendas que responden a tipos concretos de daño, que aparecen cuando el producto ya ha salido al mercado y se usa de forma masiva.

Para los usuarios, el hecho de que esta prohibición tuviera que introducirse mediante una enmienda aparte, y no formara parte de la versión básica de la AI Act, es un recordatorio de que la regulación casi siempre va por detrás de la tecnología y no por delante. Hasta que aparece una prohibición expresa, una práctica dañina puede seguir sin estar formalmente prohibida el tiempo suficiente para causar un daño real a personas concretas.