La Unión Europea debate prohibir deepfakes y videos generados por AI en comunicaciones oficiales de las autoridades públicas

La Unión Europea está discutiendo una prohibición de imágenes y vídeos creados por IA en comunicaciones oficiales del gobierno. La iniciativa tiene como objetivo combatir deepfakes e intentar restaurar la confianza en la comunicación pública en un momento en que las campañas políticas y las crisis internacionales hacen que cualquier falsificación sea particularmente tóxica.

Por Qué Se Está Discutiendo la Prohibición

En Bruselas, los funcionarios temen que las imágenes y vídeos generados puedan ser fácilmente presentados como material real de agencias gubernamentales. Ante elecciones, retórica de política exterior dura y un flujo constante de declaraciones, cualquier falsificación puede propagarse rápidamente a través de los medios y las redes sociales, dañando no solo la reputación de una agencia específica sino también la confianza en las comunicaciones oficiales en general. La lógica de los funcionarios es simple: si el propio Estado rechaza usar contenido generado por IA, a los ciudadanos les resultará más fácil distinguir la información verificada de la manipulación.

Sin embargo, la idea aún no tiene formulaciones finales. Sigue sin estar claro si las autoridades europeas desean prohibir solo deepfakes que imiten a funcionarios, edificios gubernamentales y lugares reales, o si están hablando de una restricción más amplia sobre cualquier imagen y vídeo creado por redes neurales para comunicación política. Esto afecta el alcance de la futura regla: es una cosa bloquear falsificaciones obvias, y otra muy distinta abandonar incluso ilustraciones neutrales si fueron creadas por un modelo generativo.

Cómo Podría Verse la Regla

Por ahora, no hay una ley lista, sino un desarrollo político y regulatorio en curso. Los órganos de la UE ya han comenzado a trabajar en un código práctico, que los expertos independientes deben refinar posteriormente. Entonces la posible prohibición deberá ser acordada a través del procedimiento europeo estándar, y solo después de eso puede convertirse en un requisito obligatorio para los materiales oficiales. Si la iniciativa se formula estrictamente, podría afectar varios niveles de comunicación:

• Publicaciones de instituciones de la UE y servicios de prensa
• Mensajes políticos y declaraciones oficiales
• Elementos visuales que imiten figuras oficiales o ubicaciones reales
• Vídeos e imágenes que podrían confundirse con material documental

Incluso en los debates actuales, es evidente una intención más amplia: las autoridades europeas no solo desean cerrar la brecha específica de los deepfakes sino también reducir instancias de uso perjudicial de IA generativa. Por lo tanto, esta historia sobre materiales oficiales puede ser solo una parte de un enfoque más general para regular contenido sintético en la política y la esfera pública.

Por Qué Hay Desacuerdo

La prohibición completa enfrentó inmediatamente críticos. Su argumento principal es que las autoridades pueden eliminar el contenido generado por IA de sus canales, pero esto no detendrá su difusión en plataformas de terceros. El flujo principal de falsificaciones sigue siendo a través de redes sociales, mensajeros y cuentas que no tienen relación con instituciones oficiales.

Si es así, una prohibición en las comunicaciones gubernamentales solo resuelve parte del problema y apenas afecta la principal fuente de desinformación. Muchos consideran el etiquetado obligatorio como alternativa. Este enfoque no prohíbe la tecnología por completo, sino que obliga a indicar claramente dónde se presenta material sintético a los usuarios.

Para los reguladores, esta es una opción más flexible: puedes reducir el riesgo de engaño sin abandonar aplicaciones útiles de IA. También existe una preocupación más amplia—si Europa responde a cada nuevo riesgo de IA con las restricciones más severas, la región comenzará a implementar herramientas más lentamente, que en EE.UU.

y Asia ya se están convirtiendo en estándares de trabajo.

Qué Significa Esto

La UE está demostrando que se está moviendo de discusiones generales sobre riesgos de IA a reglas específicas para canales de comunicación particulares. Incluso si la versión final resulta ser más suave que una prohibición completa, la dirección es clara: todo lo que se parece a información oficial y puede influir en la confianza política será regulado mucho más estrictamente que el contenido comercial o de entretenimiento ordinario.