1,2 milliard de visages en poche : comment DHS a transformé les USA en panoptique numérique

Imaginez que vous êtes dans la file d'attente du contrôle des passeports. Vous n'avez commis aucun crime, votre dossier est vierge et vous avez un visa frais. Mais à ce moment, un officier vous pointe avec un smartphone qui semble ordinaire, et en une seconde un algorithme compare vos traits faciaux avec une base de données dont la taille dépasse la population de la plupart des pays du monde.

Ce n'est pas un scénario d'une nouvelle saison de "Black Mirror", mais la réalité quotidienne du Département de la Sécurité intérieure des États-Unis (DHS). Selon des documents examinés par des journalistes de Bloomberg, le département exploite activement un système de reconnaissance faciale ayant accès à 1,2 milliard d'images. C'est peut-être la mise en œuvre la plus massive de surveillance par IA que nous ayons connue récemment.

Le chiffre de 1,2 milliard est impressionnant, mais ce qui est bien plus important, c'est de comprendre d'où ces données proviennent. Ce ne sont pas simplement des photographies provenant de postes de police ou de bases de données d'Interpol. Dans ce chaudron numérique, les fédéraux ont versé tout ce qu'ils ont pu atteindre : des données biométriques des demandes de visa, des données des passages frontaliers, des archives des services d'immigration et des bases de données partenaires d'autres agences.

Si vous avez jamais franchi la frontière des États-Unis ou soumis des documents pour une carte verte, votre visage est déjà devenu partie de cet ensemble de données d'entraînement colossal. Essentiellement, l'État a créé un gigantesque album photo de l'humanité sans demander la permission à ceux qui y apparaissent.

Pourquoi cela se produit-il maintenant ? La réponse est simple : la technologie a enfin rattrapé l'appétit des services de sécurité. Auparavant, l'identification de qualité nécessitait un équipement stationnaire, des conditions d'éclairage spéciales et beaucoup de temps pour traiter une demande. Aujourd'hui, le DHS distribue des applications mobiles à ses agents qui font tout cela en fractions de seconde. Maintenant, la caméra dans la poche de chaque agent frontalier n'est pas seulement un gadget, mais un terminal d'accès complet à un système mondial de surveillance. Cela change radicalement l'équilibre des pouvoirs. L'anonymat dans l'espace public cesse d'être un droit et devient une erreur technique que le gouvernement s'empresse de corriger.

Le problème ici n'est pas seulement le fait de la surveillance lui-même, mais la façon dont ces algorithmes fonctionnent. Nous savons tous que les systèmes de reconnaissance faciale font souvent des erreurs, surtout lorsqu'il s'agit de personnes à la peau foncée ou d'angles de caméra spécifiques. Quand un générateur d'images sur votre téléphone fait une erreur, c'est une cause de plaisanterie.

Quand un agent fait une erreur en exécutant des ordres basés sur une "suggestion" d'IA, cela peut se terminer par une déportation ou une arrestation. Pendant ce temps, le DHS n'est pas pressé de révéler les détails de la précision de ses systèmes, se cachant derrière des questions de sécurité nationale. Nous avons affaire à une "boîte noire" qui prend des décisions affectant le destin des gens.

C'est intéressant d'observer comment les structures gouvernementales contournent habilement les discussions éthiques qui déchirent maintenant la Silicon Valley. Tandis que Google et Microsoft publient des manifestes pompeux sur "l'IA responsable" et restreignent publiquement la vente de technologies de reconnaissance faciale à la police, l'État construit simplement ses propres écosystèmes fermés. Cela crée un précédent dangereux : les entreprises peuvent jouer à l'éthique autant qu'elles le veulent, mais les structures d'application de la loi auront toujours leur propre monde parallèle d'IA vivant selon les lois de l'opportunité, non de la moralité. Et ce monde n'a pas besoin de l'approbation du public.

Qu'est-ce que cela signifie pour nous ? Premièrement, le marché des technologies de surveillance ne fera que croître, malgré les protestations des défenseurs des droits de l'homme. Deuxièmement, nous voyons la formation d'un nouveau type de souveraineté numérique où les données biométriques des citoyens deviennent l'actif le plus précieux de l'État. Troisièmement, cela met une croix sur les illusions selon lesquelles l'IA peut être complètement réglementée. Si le régulateur lui-même est le principal utilisateur et bénéficiaire de la technologie, alors qui contrôlera les contrôleurs ? Il semble que nous entrions dans une ère où notre visage est une pièce d'identité éternelle et immuable qui est scannée sans notre consentement tous les cent mètres.

L'essentiel : La vie privée est devenue un luxe accessible uniquement à ceux qui sont prêts à rester hors ligne à jamais. Êtes-vous prêt pour le fait que toute apparition publique est automatiquement enregistrée dans une base de données qui n'oublie jamais rien ?