Vigilancia con IA: cómo amenaza el progreso social

Bruce Schneier y Jon Penney advierten de que los sistemas de vigilancia con IA se acercan a un punto crítico en el que podrán monitorizar automáticamente cada acto público de un ciudadano y buena parte de su vida privada.

Multas en tiempo real por cualquier infracción

Schneier y Penney describen un mecanismo concreto: imagine un radar de velocidad aplicado a todas las normas sin excepción. Un sistema así vería cómo coge un producto en una tienda sin pagar, tira basura fuera de la papelera o cruza la calle con el semáforo en rojo. La infracción no solo quedaría registrada: el sistema la vincularía al instante con su registro estatal, le avisaría y le multaría en tiempo real. No tendría que esperar semanas a recibir una carta de la administración.

Características clave de los sistemas que describen los autores:

• Alcance: el espacio público y buena parte del espacio privado
• Identificación: vinculación automática con datos oficiales del Estado
• Velocidad: multa y notificación inmediatas, no semanas después
• Universalidad: cualquier norma, no solo las de tráfico
• Publicidad: posible aviso no solo a las autoridades, sino a una audiencia amplia

Por qué la vigilancia total amenaza el progreso

El verdadero peligro no es una multa por tirar una colilla. La principal amenaza es el «efecto disuasorio» (chilling effect): cuando la gente sabe que cada una de sus acciones puede quedar registrada y castigada, empieza a evitar los comportamientos poco convencionales. Esto es especialmente grave para el activismo cívico, las protestas callejeras y cualquier forma de disidencia pública, que históricamente han impulsado el cambio social.

Sociólogos y juristas llevan tiempo estudiando este fenómeno: las personas cambian su conducta cuando saben que las observan, aunque no cometan ninguna infracción. Algunos estudios registraron una caída de la actividad de los usuarios en temas sensibles tras las revelaciones públicas sobre sistemas de vigilancia masiva. La vigilancia total con IA extiende este efecto a toda la vida pública cotidiana.

Bruce Schneier, uno de los principales especialistas mundiales en ciberseguridad, estudia desde hace tiempo el Estado vigilante. Junto con el investigador Jon Penney, señala un cambio fundamental: la IA no solo acelera la vigilancia, sino que cambia su escala y su grado de automatización. Si antes la vigilancia masiva requería miles de empleados, ahora se encargan los algoritmos.

«Piensen en estos sistemas como radares automáticos de velocidad con

esteroides, solo que no vigilan la velocidad, sino cualquier norma que se les pueda ocurrir», escriben los autores.

¿Hay todavía tiempo para detenerlo?

El mensaje central de la columna: la sociedad aún tiene una ventana de oportunidad. Las tecnologías de vigilancia con IA ya existen y se desarrollan con rapidez, pero la infraestructura de vigilancia total aún no se ha desplegado en todas partes. Los autores piden decisiones políticas activas: límites legales al uso de la IA en la vigilancia, prohibiciones de la identificación biométrica en lugares públicos y estándares internacionales.

Según Schneier y Penney, la pregunta clave no es «¿es técnicamente posible?», sino «¿debemos permitir que ocurra?». Límites deliberados al alcance de los sistemas, registros obligatorios de las tecnologías de vigilancia en uso y el derecho de los ciudadanos a impugnar decisiones automatizadas son herramientas reales que ya se debaten en las legislaciones de varios países.

Schneier y Penney no niegan el posible beneficio de algunos de estos sistemas, por ejemplo en la lucha contra delitos reales. Pero su argumento principal es que el precio que paga una sociedad democrática por un orden total es demasiado alto. Los países que introdujeron la vigilancia masiva en nombre de la seguridad la han usado con frecuencia contra la disidencia.

Qué significa

La vigilancia con IA no es una amenaza abstracta del futuro, sino un problema de ingeniería que ya se está resolviendo. Schneier y Penney piden a los políticos, la sociedad civil y las empresas tecnológicas que acuerden líneas rojas ahora mismo, mientras las cámaras aún no nos vigilan a todos las 24 horas del día.

¿Por qué son peligrosos los sistemas de vigilancia con IA?

Según los expertos, podrán registrar automáticamente cada acto público y aplicar multas en tiempo real por cualquier infracción de las normas, desde el robo de un producto hasta tirar basura.