Grok se pasa de la raya: la Comisión Europea investiga el chatbot de Elon Musk

Elon Musk lleva tiempo vendiendo Grok como un asistente de IA «anti-agenda», lo más libre posible y sin miedo a los temas espinosos. Pero esa libertad ha llevado a X directamente a la sala de vistas de la Comisión Europea. Bruselas ha abierto formalmente una investigación y, esta vez, no se trata de disputas políticas, sino de una función concreta del modelo: su capacidad de generar imágenes y textos de carácter sexual que literalmente desnudan a personas sin que lo sepan. Cuando Musk despidió a los equipos de moderación y seguridad, probablemente contaba con velocidad y caos, pero difícilmente previó que los reguladores europeos saben leer código y leyes tan bien como los ingenieros californianos.

El contexto es sencillo y peligroso para X. En Europa rige la Ley de Servicios Digitales (DSA), que obliga a las grandes plataformas a combatir los riesgos sistémicos. Difundir deepfakes y pornografía no consentida no es solo un problema ético, sino una infracción directa de la seguridad de los usuarios. Durante mucho tiempo Grok operó en una «zona gris» y permitió a los suscriptores de pago generar contenido que bloquearía cualquier otra IA, como DALL-E o Midjourney. Ahora los reguladores quieren saber por qué los sistemas de filtrado de X resultaron tan permeables y si fue una decisión deliberada de la dirección para atraer audiencia.

El problema se agrava por cómo aprende Grok. Utiliza datos de las publicaciones de X en tiempo real. Si la plataforma está llena de contenido tóxico o explícito, la IA lo absorbe como una esponja y se convierte en una herramienta para producir más material del mismo tipo. La Comisión Europea ya ha enviado una solicitud formal en la que exige explicar qué medidas de protección se implantaron antes de lanzar las funciones generativas. A juzgar por el número de quejas de personalidades públicas y usuarios corrientes cuyas caras aparecieron en imágenes falsas, esas medidas o no funcionan o directamente no existen.

Para Musk, esta investigación puede ser la lección más cara de su vida. Las multas de la DSA pueden llegar al 6% de la facturación anual mundial de la empresa. Con los anunciantes ya huyendo de la plataforma, esas sanciones podrían ser fatales. Pero no es solo cuestión de dinero, sino de precedente. Si la Comisión Europea obliga a X a cambiar los algoritmos de Grok, sentará un estándar para toda la industria de la IA generativa. Otros desarrolladores tendrán que pensárselo tres veces antes de lanzar modelos «sin filtros» en un mercado donde unos funcionarios con brazos muy largos vigilan la privacidad de los ciudadanos.

En los próximos meses veremos el clásico enfrentamiento entre el tecnooptimismo (o la temeridad) y la maquinaria burocrática. Musk casi seguro lo llamará censura y ataque a la libertad de expresión, pero para los reguladores es una cuestión de proteger la dignidad humana y combatir la violencia digital. La ironía es que Grok, creado como la «IA más inteligente y honesta», ha dejado a su creador expuesto a un golpe que ni los tuits más ingeniosos pueden parar.

Lo esencial: ¿Será este caso el fin del «salvaje oeste» en la generación de contenido con IA o encontrará Musk la manera de esquivar las leyes europeas?