La police britannique reconnaît les biais de son IA, mais promet de les combattre

Quand un haut responsable policier affirme ouvertement qu'une technologie que l'État s'apprête à déployer massivement comporte un biais systémique, cela mérite toute l'attention. C'est ce qui s'est produit au Royaume-Uni, où Alex Murray, chef de l'IA à l'Agence nationale de lutte contre la criminalité (NCA), a reconnu une évidence dans un entretien exclusif au Guardian : l'intelligence artificielle au service des forces de l'ordre sera biaisée. Il a aussitôt promis qu'on s'emploierait à la combattre.

Le contexte de cette déclaration compte autant que son contenu. Le gouvernement travailliste britannique a choisi d'étendre de façon spectaculaire l'usage de l'IA dans la police d'Angleterre et du pays de Galles. Il ne s'agit pas d'expérimentations locales, mais d'une transformation systémique : la hiérarchie policière est persuadée que, sans intelligence artificielle, les forces de l'ordre ne pourront tout simplement pas suivre l'évolution de la criminalité. Pour concrétiser ces ambitions, un centre policier d'IA spécialisé est créé, avec un budget de 115 millions de livres sterling, soit environ 13,5 milliards de roubles au taux actuel. Un montant qui témoigne du sérieux des intentions.

Murray s'est empressé de rassurer l'opinion avec une phrase déjà devenue un mème dans les médias britanniques : « Ce n'est pas RoboCop. » Selon lui, il s'agit avant tout de gagner en efficacité dans les enquêtes complexes : traiter de gros volumes de données, repérer des schémas, accélérer le travail d'analyse. Cela semble raisonnable, voire anodin. Mais le diable, comme toujours, est dans les détails.

Le biais de l'IA dans le domaine policier n'est pas une menace théorique et abstraite. L'expérience mondiale a déjà fourni de nombreux exemples inquiétants. Aux États-Unis, les systèmes de police prédictive ont montré à plusieurs reprises un biais racial, en orientant une part disproportionnée des moyens vers les quartiers où vivent des minorités. Les systèmes de reconnaissance faciale ont affiché un taux d'erreur nettement plus élevé pour identifier les personnes à la peau foncée. Les algorithmes d'évaluation du risque de récidive attribuaient des scores plus élevés aux membres de certains groupes ethniques, toutes choses égales par ailleurs. Rien de tout cela n'est hypothétique : ce sont des cas documentés.

L'aveu de Murray peut se lire de deux façons. D'un côté, c'est une marque d'honnêteté intellectuelle, rare chez les responsables qui défendent des projets technologiques coûteux. À ce stade, on parle d'ordinaire de « neutralité des algorithmes » et d'« objectivité des données ». De l'autre, la formule « nous savons qu'il y a un problème et nous allons y travailler » est un classique de la gestion des attentes : elle permet de déployer la technologie maintenant et de traiter les problèmes plus tard. Promettre de « limiter l'injustice » n'est pas la même chose que promettre de l'éliminer.

Pour comprendre le contexte général, il faut voir que le Royaume-Uni suit une tendance mondiale. Les forces de l'ordre du monde entier étendent leur usage de l'IA, et la question n'est plus de savoir si la police utilisera ces technologies, mais à quelles conditions. L'Union européenne a fixé dans son AI Act des limites strictes à l'usage de systèmes d'identification biométrique en temps réel. Depuis le Brexit, le Royaume-Uni n'est pas lié par ces règles et, selon toute apparence, choisit une approche plus libérale, fondée sur l'autorégulation et le contrôle interne.

L'architecture du contrôle mérite une attention particulière. Créer un centre spécialisé à 115 millions de livres revient à tenter de centraliser le développement et la supervision, ce qui vaut en théorie mieux qu'un déploiement anarchique de l'IA par chaque unité de police. Mais la question clé reste sans réponse : qui contrôlera les contrôleurs ? Si l'audit des biais est mené par la police elle-même, c'est comme confier le poulailler au renard. Une supervision externe indépendante, la transparence des algorithmes et des voies de recours contre les décisions restent, pour l'instant, au stade des vœux pieux.

Pour le public russe, cette histoire sert de point de repère. Les forces de l'ordre russes déploient elles aussi activement la reconnaissance faciale et l'analyse prédictive, mais il n'existe pratiquement aucun débat public en Russie sur les biais de ces systèmes. L'expérience britannique montre que, même dans un pays doté d'institutions de contrôle citoyen développées et de médias indépendants, le problème du biais de l'IA dans la police n'est pas résolu. Reconnaître le problème est une première étape nécessaire, mais sans mécanismes de contrôle concrets, elle risque de rester un beau geste, suivi du déploiement discret de technologies imparfaites à l'échelle de tout le pays.