Mobile Fortify : les services secrets américains jouent aux devinettes avec votre visage

Imaginez que vous êtes à une frontière ou simplement en train de marcher dans la rue quand un agent vous pointe un smartphone. Quelques secondes, et l'algorithme rend son verdict. Cela ressemble à une scène de science-fiction, mais pour les États-Unis c'est la réalité sinistre de l'application Mobile Fortify.

Le seul problème est que cette application est techniquement incapable de confirmer l'identité avec la précision requise. Elle n'a jamais été créée à cette fin. Cela n'a pourtant pas empêché les officiers de l'ICE et du Service des douanes et de la protection des frontières de l'utiliser plus de 100 000 fois pour vérifier à la fois les migrants et les citoyens américains.

L'histoire de Mobile Fortify est un exemple classique de la façon dont le désir de mettre en œuvre l'innovation à tout prix transforme les institutions gouvernementales sérieuses en héros d'une comédie de l'absurde. À l'origine, le système était conçu comme un outil auxiliaire, une sorte de carnet numérique avec accès aux bases de données. Mais à un moment donné, il s'est transformé en marteau principal avec lequel on frappe sur tous les clous.

Pour légaliser ce processus, le ministère de la Sécurité intérieure a dû recourir à une petite ruse. Ils ont simplement ignoré leurs propres règles d'évaluation de l'impact sur la vie privée. Quand les règles entravent le progrès, les bureaucrates ne changent pas le progrès—ils annulent les règles.

Pourquoi est-ce important en ce moment ? Nous sommes au sommet du battage médiatique autour des outils d'IA, et les structures gouvernementales du monde entier tentent d'automatiser tout ce qu'elles peuvent. Mais quand il s'agit de reconnaissance faciale, le coût de l'erreur n'est pas simplement une recommandation mal placée dans un fil d'actualité.

C'est la détention illégale, l'interrogatoire et les vies détruites. Si le système ne fournit qu'une réponse probabiliste, et que l'agent la perçoit comme la vérité absolue, la technologie devient plus dangereuse que son absence. Le plus ironique ici est que l'agence elle-même a reconnu : Mobile Fortify n'a jamais réussi les tests de conformité aux normes d'identification.

C'est comme si la police utilisait la divination par les fonds de café à la place d'un alcootest, mais remplissait quand même le procès-verbal avec un air sérieux. Le système confond souvent les personnes ayant des traits faciaux similaires, ce qui dans le contexte du travail avec les migrants devient une véritable loterie. Pendant ce temps, les données de balayage sont stockées dans des bases de données qui sont ensuite utilisées pour entraîner d'autres algorithmes encore plus invasifs.

Nous voyons un précédent dangereux où une « solution de fortune » devient la norme de facto. Les technologies de reconnaissance faciale sont déjà critiquées pour les biais et les erreurs envers les minorités ethniques. L'utilisation d'un logiciel manifestement défectueux ou inadapté ne fait que jeter de l'huile sur le feu.

Au lieu de construire un système de contrôle transparent, les autorités ont choisi le chemin de la moindre résistance, où la commodité de l'interface importe plus que les droits civiques. Cela nous rappelle que derrière toute « magie » de l'IA se cache du code concret et des personnes concrètes qui approuvent ce code. Si à l'étape d'approbation le bon sens est remplacé par le désir de cocher la case du rapport d'innovation, nous obtenons une dystopie numérique à l'échelle nationale.

Et tandis que les défenseurs des droits humains tentent de contester l'utilisation de Mobile Fortify, le compteur de vérifications continue de tourner, enregistrant de plus en plus de visages dans un système qui officiellement « ne fonctionne pas correctement ». Le point clé : si même les services spéciaux américains sont prêts à utiliser des logiciels douteux en violation de leurs propres règles, à quel point pouvons-nous faire confiance à tout autre système gouvernemental d'IA sans audit indépendant ?