Mobile Fortify: agências de inteligência americana brincam de adivinhar seu rosto

Imagine que você está em uma fronteira ou simplesmente caminhando pela rua quando um policial aponta um smartphone para você. Alguns segundos, e o algoritmo entrega seu veredicto. Parece uma cena de ficção científica, mas para os EUA esta é a realidade sombria do aplicativo Mobile Fortify.

O único problema é que este aplicativo é tecnicamente incapaz de confirmar a identidade com precisão adequada. Nunca foi criado para esse propósito. Ainda assim, isso não impediu que oficiais do ICE e do Serviço de Alfândega e Proteção de Fronteiras o usassem mais de 100 mil vezes para verificar migrantes e cidadãos americanos.

A história do Mobile Fortify é um exemplo clássico de como o desejo de implementar inovação a qualquer custo transforma instituições governamentais sérias em heróis de uma comédia absurda. Inicialmente, o sistema foi concebido como uma ferramenta auxiliar, uma espécie de caderno digital com acesso a bancos de dados. Mas em algum momento, se transformou no martelo principal com o qual batem em qualquer prego.

Para legalizar esse processo, o Departamento de Segurança Interna teve que recorrer a um pequeno truque. Eles simplesmente ignoraram suas próprias regras para avaliar o impacto na privacidade. Quando as regras atrapalham o progresso, os burocratas não mudam o progresso—eles cancelam as regras.

Por que isso é importante agora? Estamos no auge da histeria em torno das ferramentas de IA, e estruturas governamentais em todo o mundo estão tentando automatizar tudo o que conseguem alcançar. Mas quando se trata de reconhecimento facial, o custo do erro não é apenas uma recomendação de feed de notícias mal colocada.

É detenção ilegal, interrogatório e vidas destruídas. Se o sistema fornece apenas uma resposta probabilística, e o oficial a percebe como a verdade suprema, a tecnologia se torna mais perigosa que sua ausência. A coisa mais irônica aqui é que a própria agência admitiu: o Mobile Fortify nunca passou em testes de conformidade com padrões de identificação.

É como se a polícia usasse adivinhação com borra de café em vez de um bafômetro, mas ainda assim preenchesse o protocolo com cara séria. O sistema frequentemente confunde pessoas com características faciais semelhantes, o que, no contexto de trabalho com migrantes, se torna uma verdadeira loteria. Enquanto isso, os dados de varredura são armazenados em bancos de dados que são posteriormente usados para treinar outros algoritmos ainda mais invasivos.

Estamos vendo um precedente perigoso onde uma "solução improvisada" se torna o padrão de fato. As tecnologias de reconhecimento facial já estão sob fogo por preconceito e erros contra minorias étnicas. O uso de software sabidamente quebrado ou inadequado apenas adiciona combustível a esse fogo.

Em vez de construir um sistema de controle transparente, as autoridades escolheram o caminho de menor resistência, onde a conveniência da interface importa mais do que os direitos civis. Isso nos lembra que por trás de qualquer "magia" de IA está código concreto e pessoas concretas que aprovam esse código. Se no estágio de aprovação o bom senso é substituído pelo desejo de marcar a caixa do relatório de inovação, obtemos uma distopia digital em escala nacional.

E enquanto os defensores dos direitos humanos tentam contestar o uso do Mobile Fortify, o contador de verificação continua marcando, registrando cada vez mais rostos em um sistema que oficialmente "não funciona como deveria." O ponto principal: se até os serviços especiais americanos estão dispostos a usar software questionável em violação de suas próprias regras, o quanto podemos confiar em qualquer outro sistema de IA governamental sem auditoria independente?