Mobile Fortify: los servicios de seguridad de EE. UU. adivinan quién eres por tu cara

Imagine que está en una frontera, o simplemente paseando por la calle, y un agente le apunta con un smartphone. Un par de segundos después, un algoritmo dicta su veredicto. Suena a escena ciberpunk, pero en EE. UU. es el día a día de la aplicación Mobile Fortify. El problema es que la app, técnicamente, no es capaz de confirmar la identidad con la precisión necesaria. Simplemente no se creó para eso. Aun así, no impidió que agentes de ICE y de la Oficina de Aduanas y Protección Fronteriza la usaran más de 100.000 veces para comprobar tanto a migrantes como a ciudadanos estadounidenses.

La historia de Mobile Fortify es un ejemplo de manual de cómo el afán de implantar innovación a toda costa convierte a instituciones públicas serias en protagonistas de una comedia del absurdo. El sistema se concibió originalmente como una herramienta auxiliar, una especie de bloc de notas digital con acceso a bases de datos. En algún momento se convirtió en el martillo con el que se golpea cualquier clavo.

Para legalizar el proceso, el Departamento de Seguridad Nacional recurrió a una pequeña artimaña: ignoró sus propias normas de evaluación del impacto sobre la privacidad. Cuando las normas estorban al progreso, los burócratas no cambian el progreso, eliminan las normas.

¿Por qué importa ahora? Estamos en el pico del hype de las herramientas de IA y los organismos públicos de todo el mundo intentan automatizar todo lo que alcanzan. Pero en reconocimiento facial, el coste de un error no es una recomendación mal elegida en un feed de noticias. Son detenciones ilegales, interrogatorios y vidas destrozadas. Si un sistema ofrece solo una respuesta probabilística y el agente la toma por verdad absoluta, la tecnología es más peligrosa que su ausencia.

Lo más irónico es que la propia agencia reconoció que Mobile Fortify no superó las pruebas de cumplimiento de los estándares de identificación. Es como si la policía usara la lectura de posos de café en lugar de un alcoholímetro, pero redactara las actas con cara seria. El sistema confunde con frecuencia a personas con rasgos faciales parecidos, lo que, al trabajar con migrantes, se convierte en una auténtica lotería. Además, los datos escaneados se guardan en bases que luego sirven para entrenar otros algoritmos aún más invasivos.

Estamos ante un precedente peligroso en el que una solución «chapuza» pasa a ser el estándar de facto. El reconocimiento facial ya recibe fuertes críticas por sesgos y errores con minorías étnicas. Usar un software a sabiendas defectuoso o inadecuado solo echa leña al fuego. En lugar de construir un sistema de control transparente, las autoridades eligieron el camino de menor resistencia, donde la comodidad de la interfaz pesa más que los derechos civiles.

Es un recordatorio de que detrás de toda «magia» de la IA hay código concreto y personas concretas que lo aprueban. Si en la fase de aprobación el sentido común se sustituye por las ganas de marcar una casilla en un informe de innovación, el resultado es una distopía digital a escala de todo un país. Y mientras los defensores de los derechos humanos intentan impugnar el uso de Mobile Fortify, el contador sigue avanzando y registrando más y más rostros en un sistema que oficialmente «no funciona como debería».

Lo esencial: si ni siquiera los servicios de seguridad de EE. UU. dudan en usar software dudoso saltándose sus propias reglas, ¿hasta qué punto podemos confiar en cualquier otro sistema de IA gubernamental sin una auditoría independiente?