Mobile Fortify: los servicios de inteligencia estadounidenses juegan a adivinar con tu rostro

Imagina que estás en una frontera o simplemente caminando por la calle cuando un oficial te apunta con un smartphone. A los pocos segundos, el algoritmo emite su veredicto. Suena como una escena de ciencia ficción, pero para los EE.

UU. esta es la cruda realidad de la aplicación Mobile Fortify. El único problema es que esta aplicación es técnicamente incapaz de confirmar la identidad con la precisión debida.

Nunca fue creada para ese propósito. Sin embargo, esto no impidió que oficiales del ICE y del Servicio de Aduanas y Protección Fronteriza la utilizaran más de 100,000 veces para verificar tanto a migrantes como a ciudadanos estadounidenses. La historia de Mobile Fortify es un ejemplo clásico de cómo el deseo de implementar innovación a toda costa convierte a instituciones gubernamentales serias en protagonistas de una comedia del absurdo.

Inicialmente, el sistema fue concebido como una herramienta auxiliar, una especie de cuaderno digital con acceso a bases de datos. Pero en algún momento, se transformó en el martillo principal que golpean contra cada clavo. Para legalizar este proceso, el Departamento de Seguridad Nacional tuvo que recurrir a un pequeño truco.

Simplemente ignoraron sus propias reglas para evaluar el impacto en la privacidad. Cuando las reglas obstaculizan el progreso, los burócratas no cambian el progreso—cancela las reglas. ¿Por qué es esto importante ahora mismo?

Estamos en el apogeo del entusiasmo alrededor de herramientas de IA, y las estructuras gubernamentales en todo el mundo intentan automatizar todo lo que pueden alcanzar. Pero cuando se trata de reconocimiento facial, el costo del error no es simplemente una recomendación incorrecta en el feed de noticias. Se trata de detenciones ilegales, interrogatorios y vidas destrozadas.

Si el sistema solo proporciona una respuesta probabilística, y el oficial la percibe como la verdad definitiva, la tecnología se vuelve más peligrosa que su ausencia. Lo más irónico aquí es que la propia agencia reconoció: Mobile Fortify nunca pasó las pruebas de conformidad con los estándares de identificación. Es como si la policía utilizara lectura de posos de café en lugar de un alcoholímetro, pero aun así rellenara el acta con expresión seria.

El sistema frecuentemente confunde a personas con rasgos faciales similares, lo que en el contexto del trabajo con migrantes se convierte en una verdadera lotería. Mientras tanto, los datos de escaneo se almacenan en bases de datos que luego se utilizan para entrenar otros algoritmos aún más invasivos. Estamos presenciando un precedente peligroso donde una "solución improvisada" se convierte en el estándar de facto.

Las tecnologías de reconocimiento facial ya están bajo fuego por sesgo y errores contra minorías étnicas. El uso de software sabidamente defectuoso o inadecuado solo añade leña al fuego. En lugar de construir un sistema de control transparente, las autoridades eligieron el camino de menor resistencia, donde la conveniencia de la interfaz importa más que los derechos civiles.

Esto nos recuerda que detrás de cualquier "magia" de IA hay código concreto y personas concretas que aprueban ese código. Si en la etapa de aprobación el sentido común es reemplazado por el deseo de marcar la casilla del informe de innovación, obtenemos una distopía digital a escala nacional. Y mientras los defensores de derechos humanos intentan cuestionar el uso de Mobile Fortify, el contador de verificaciones sigue avanzando, registrando cada vez más rostros en un sistema que oficialmente "no funciona correctamente."

Lo fundamental: si incluso los servicios especiales estadounidenses están dispuestos a usar software cuestionable violando sus propias reglas, ¿cuánto podemos confiar en cualquier otro sistema de IA gubernamental sin auditoría independiente?