Surveillance par IA : une menace pour le progrès social

Bruce Schneier et Jon Penney préviennent que les systèmes de surveillance par IA approchent d'un seuil critique, où ils pourront surveiller automatiquement chaque acte public d'un citoyen et une part importante de sa vie privée.

Des amendes en temps réel pour toute infraction

Schneier et Penney décrivent un mécanisme concret : imaginez un radar de vitesse appliqué à toutes les règles sans exception. Un tel système verrait que vous avez pris un article en magasin sans payer, jeté un déchet à côté de la poubelle ou traversé la rue au feu rouge. L'infraction ne serait pas simplement enregistrée : le système la relierait instantanément à votre dossier dans le registre de l'État, vous préviendrait et vous infligerait une amende en temps réel. Inutile d'attendre des semaines le courrier d'une administration.

Principales caractéristiques des systèmes décrits par les auteurs :

• Couverture : l'espace public et une part importante de l'espace privé
• Identification : rattachement automatique aux données officielles de l'État
• Rapidité : amende et notification immédiates, et non des semaines plus tard
• Universalité : toutes les règles, pas seulement celles de la route
• Publicité : notification potentielle non seulement aux autorités, mais aussi à un large public

Pourquoi la surveillance totale menace le progrès

Le vrai danger n'est pas l'amende pour un mégot jeté. La principale menace est l'« effet dissuasif » (chilling effect) : lorsque les gens savent que chacun de leurs actes peut être enregistré et sanctionné, ils évitent les comportements atypiques. C'est particulièrement critique pour l'activisme citoyen, les manifestations de rue et toutes les formes de désaccord public, qui ont historiquement porté le changement social.

Sociologues et juristes étudient ce phénomène depuis longtemps : les gens modifient leur comportement quand ils se savent observés, même s'ils ne commettent aucune infraction. Des études ont constaté une baisse de l'activité des utilisateurs sur les sujets sensibles après les révélations publiques sur des systèmes de surveillance de masse. La surveillance totale par IA étend cet effet à toute la vie publique quotidienne.

Bruce Schneier, l'un des principaux spécialistes mondiaux de la cybersécurité, étudie depuis longtemps l'État de surveillance. Avec le chercheur Jon Penney, il relève un changement fondamental : l'IA n'accélère pas seulement la surveillance, elle en modifie l'échelle et le degré d'automatisation. Là où la surveillance de masse exigeait autrefois des milliers d'agents, les algorithmes s'en chargent désormais.

«

Pensez à ces systèmes comme à des radars automatiques sous stéroïdes, sauf qu'ils ne surveillent pas la vitesse, mais n'importe quelle règle que vous pouvez imaginer », écrivent les auteurs.

Est-il encore temps de l'arrêter ?

Le message central de la tribune : la société dispose encore d'une fenêtre d'opportunité. Les technologies de surveillance par IA existent déjà et se développent activement, mais l'infrastructure de surveillance totale n'est pas encore déployée partout. Les auteurs appellent à des décisions politiques actives : limites légales à l'usage de l'IA dans la surveillance, interdiction de l'identification biométrique dans les lieux publics et normes internationales.

Selon Schneier et Penney, la question clé n'est pas « est-ce techniquement possible ? », mais « devons-nous laisser cela se produire ? ». Des limites délibérées à la portée des systèmes, des registres obligatoires des technologies de surveillance utilisées et le droit des citoyens de contester les décisions automatisées sont autant d'outils réels, déjà débattus dans les législations de plusieurs pays.

Schneier et Penney ne nient pas l'utilité possible de certains de ces systèmes, par exemple dans la lutte contre de véritables crimes. Mais leur argument principal est que le prix payé par une société démocratique pour un ordre total est trop élevé. Les pays qui ont instauré la surveillance de masse au nom de la sécurité l'ont souvent retournée contre les dissidents.

Ce que cela signifie

La surveillance par IA n'est pas une menace abstraite du futur, mais un problème d'ingénierie déjà en cours de résolution. Schneier et Penney appellent les responsables politiques, la société civile et les entreprises technologiques à s'accorder dès maintenant sur des lignes rouges, tant que les caméras ne nous surveillent pas encore tous, 24 heures sur 24.

Pourquoi les systèmes de surveillance par IA sont-ils dangereux ?

Selon les experts, ils pourront enregistrer automatiquement chaque acte public et infliger des amendes en temps réel pour toute infraction aux règles, du vol d'un article au jet de déchets.