Un tribunal de Ámsterdam prohíbe a xAI y Grok crear imágenes de personas «desnudas» sin su consentimiento

Un tribunal de Ámsterdam ha prohibido a xAI generar y distribuir en los Países Bajos imágenes de personas sin ropa sin su consentimiento. La decisión afecta directamente a Grok y muestra que en Europa se reduce con rapidez el margen de experimentación para las funciones de IA polémicas.

La decisión del tribunal

El tribunal de Ámsterdam ha trazado de hecho una frontera en torno a uno de los usos más tóxicos de la IA generativa: la creación de imágenes «desnudas» de personas reales sin su permiso. No se trata de un filtro artístico ni de una estilización, sino de contenido que puede imitar fotografías íntimas y usarse contra la voluntad de la persona. Para xAI no es una advertencia abstracta, sino una prohibición directa de generar y distribuir ese material en los Países Bajos.

El simple hecho de la intervención judicial muestra que la cuestión ya ha salido del terreno del debate sobre la ética del producto.

También importa que la decisión no se limite a la publicación de imágenes terminadas, sino que alcance a la propia posibilidad de crearlas. Eso cambia el marco de la disputa: el tribunal ve la función como una posible herramienta para vulnerar derechos, y no solo como contenido que alguien pueda subir después a la red. Este enfoque aumenta la presión sobre los desarrolladores de modelos e interfaces. Si una función permite el abuso desde el principio, jueces y reguladores están cada vez más dispuestos a limitarla en el propio producto, sin esperar a que las víctimas presenten quejas masivas.

Por qué importa

La historia del «desnudado» de personas con IA provoca una reacción especialmente intensa porque la tecnología golpea a la vez varias zonas sensibles: la vida privada, el consentimiento y la reputación. Aunque la imagen sea totalmente sintética, el daño para la persona puede ser muy real: desde el acoso y el chantaje hasta consecuencias profesionales. Por eso los tribunales no ven estas herramientas como una generación neutra de imágenes, sino como un mecanismo que facilita la producción de contenido íntimo no autorizado. Para la cultura jurídica europea, es un tema especialmente sensible.

A nivel de producto, las objeciones a estas funciones suelen reducirse no a un solo detalle, sino a un conjunto de riesgos. El problema no es solo que se pueda obtener un resultado polémico, sino lo barato, rápido y masivo que resulta hacerlo en la práctica mediante una interfaz corriente. En el caso de la prohibición en los Países Bajos, son especialmente relevantes cuatro cuestiones que cualquier plataforma de IA acabará enfrentando:

• si se puede crear una imagen de una persona real sin su consentimiento;
• lo fácil que es distribuir luego ese contenido;
• quién responde por el resultado: el usuario, la plataforma o ambos;
• si existen barreras técnicas reales, y no solo advertencias formales en la interfaz.

Qué cambia

Para xAI, la decisión es una señal de que las capacidades polémicas de los modelos se evaluarán a partir de ahora no solo por promesas generales de seguridad, sino por el escenario concreto de uso. Si una herramienta permite producir con rapidez contenido dañino, es posible que ya no baste con el argumento de la «tecnología neutral». Las empresas tendrán que demostrar que las restricciones están integradas en el producto, funcionan en la práctica y no se eluden con un par de peticiones. De lo contrario, las restricciones locales en un país pueden convertirse en plantilla para nuevas demandas, inspecciones y prohibiciones en otros mercados europeos.

Para el mercado en su conjunto, es otro ejemplo de cómo la IA generativa deja de funcionar con la lógica de «primero lanzamos, luego vemos». Cuanto más se acerca un modelo al cuerpo, la identidad y los datos personales, mayor es la probabilidad de una respuesta jurídica directa. Sobre todo en Europa, donde la protección de la dignidad y la privacidad suele situarse por encima de la velocidad de producto. Esto no afecta solo a xAI: cualquier desarrollador que añada funciones al borde del contenido sexualizado, falso o degradante tiene ahora una referencia más clara de dónde está la línea roja.

Qué significa

La prohibición contra xAI muestra que la batalla en torno a la IA se libra ahora no solo en el plano de las grandes leyes, sino también en el de las funciones concretas de los productos. Si una herramienta facilita demasiado la humillación o la explotación no autorizada de personas, un tribunal puede intervenir de forma puntual y rápida. Para la industria, es una mala noticia para los mecanismos de crecimiento opacos y una buena noticia para los usuarios, cuyos derechos solían llegar muy tarde detrás de la tecnología.