Mobile Fortify : les services américains jouent aux devinettes avec votre visage

Imaginez : vous êtes à une frontière, ou simplement dans la rue, et un agent braque un smartphone sur vous. Quelques secondes plus tard, un algorithme rend son verdict. On dirait une scène de cyberpunk, mais aux États-Unis, c'est le quotidien de l'application Mobile Fortify. Le hic : l'appli est techniquement incapable de confirmer une identité avec une précision suffisante. Elle n'a tout simplement pas été conçue pour cela. Cela n'a pas empêché des agents de l'ICE et des douanes et de la protection des frontières (CBP) de l'utiliser plus de 100 000 fois pour contrôler aussi bien des migrants que des citoyens américains.

L'histoire de Mobile Fortify est un cas d'école : la volonté d'innover à tout prix transforme de sérieuses institutions publiques en personnages d'une comédie de l'absurde. Le système était à l'origine pensé comme un outil d'appoint, une sorte de bloc-notes numérique donnant accès à des bases de données. À un moment, il est devenu le marteau avec lequel on frappe tous les clous.

Pour légaliser la pratique, le département de la Sécurité intérieure a eu recours à une petite astuce : il a purement et simplement ignoré ses propres règles d'évaluation de l'impact sur la vie privée. Quand les règles gênent le progrès, les bureaucrates ne changent pas le progrès : ils suppriment les règles.

Pourquoi est-ce important maintenant ? Nous sommes au sommet du battage autour des outils d'IA, et les administrations du monde entier cherchent à automatiser tout ce qui est à portée de main. Mais en reconnaissance faciale, une erreur ne se résume pas à une recommandation mal choisie dans un fil d'actualité. Elle signifie des arrestations illégales, des interrogatoires et des vies brisées. Si un système ne fournit qu'une réponse probabiliste et que l'agent la prend pour la vérité ultime, la technologie est plus dangereuse que son absence.

Le plus ironique : l'agence a elle-même reconnu que Mobile Fortify n'avait pas passé les tests de conformité aux normes d'identification. C'est comme si la police utilisait la lecture du marc de café à la place de l'éthylotest, tout en rédigeant ses procès-verbaux avec un air grave. Le système confond souvent des personnes aux traits proches, ce qui, face à des migrants, tourne à la loterie. Par ailleurs, les données de scan sont conservées dans des bases ensuite utilisées pour entraîner d'autres algorithmes, encore plus intrusifs.

On assiste à un précédent dangereux, où une solution « bricolée » devient la norme de fait. La reconnaissance faciale est déjà très critiquée pour ses biais et ses erreurs envers les minorités ethniques. Utiliser un logiciel que l'on sait défaillant ou inadapté ne fait qu'jeter de l'huile sur le feu. Plutôt que de bâtir un système de contrôle transparent, les autorités ont choisi la voie de la moindre résistance, où le confort de l'interface passe avant les droits civiques.

Cela rappelle que derrière toute « magie » de l'IA, il y a du code précis et des personnes précises qui l'approuvent. Si, à l'étape de validation, le bon sens cède la place à l'envie de cocher une case dans un rapport d'innovation, on obtient une dystopie numérique à l'échelle d'un pays entier. Et pendant que les défenseurs des droits humains tentent de contester l'usage de Mobile Fortify, le compteur continue de tourner et d'enregistrer toujours plus de visages dans un système qui, officiellement, « ne fonctionne pas comme il le devrait ».

L'essentiel : si même les services américains sont prêts à utiliser un logiciel douteux en contournant leurs propres règles, jusqu'où peut-on faire confiance à n'importe quel autre système d'IA gouvernemental sans audit indépendant ?