La police britannique reconnaît les biais de son AI, mais promet de les combattre

Lorsqu'un haut fonctionnaire de police déclare ouvertement que la technologie que l'État s'apprête à déployer massivement contient des biais systémiques, cela mérite une attention particulière. C'est exactement ce qui s'est passé au Royaume-Uni, où Alex Murray, chef de la division IA de l'Agence nationale de la criminalité (NCA), dans une interview exclusive du Guardian, a reconnu l'évidence : l'intelligence artificielle au service des forces de l'ordre sera biaisée. Mais il a immédiatement promis que l'on s'attaquerait à ce problème.

Le contexte de cette déclaration n'est pas moins important que son contenu. Le gouvernement travailliste du Royaume-Uni a engagé une expansion dramatique de l'utilisation de l'IA dans la police d'Angleterre et du Pays de Galles. Il ne s'agit pas d'expériences locales, mais d'une transformation systémique : la direction de la police est convaincue que sans intelligence artificielle, les forces de l'ordre ne pourront tout simplement pas suivre l'évolution de la criminalité. Pour réaliser ces ambitions, un centre d'IA spécialisé de la police est en cours de création avec un budget de 115 millions de livres sterling—environ 13,5 milliards de roubles au taux actuel. Une somme qui témoigne de la sérieux des intentions.

Murray lui-même s'est empressé de rassurer le public avec une phrase qui est déjà devenue un mème dans les médias britanniques : "Ce n'est pas RoboCop". Selon lui, l'accent est principalement mis sur l'amélioration de l'efficacité dans les enquêtes complexes—traitement de grands ensembles de données, identification des tendances, accélération du travail analytique. Cela semble raisonnable et même inoffensif. Mais le diable, comme toujours, se cache dans les détails.

Le problème du biais de l'IA dans le domaine de l'application de la loi n'est pas une menace théorique abstraite. L'expérience mondiale a déjà accumulé suffisamment d'exemples alarmants. Aux États-Unis, les systèmes d'analyse prédictive de la police ont démontré à plusieurs reprises des biais raciaux, dirigeant de manière disproportionnée plus de ressources vers les quartiers où vivent les minorités. Les systèmes de reconnaissance faciale ont montré des taux d'erreur significativement plus élevés lors de l'identification de personnes à peau foncée. Les algorithmes d'évaluation des risques de récidive ont attribué des scores plus élevés aux représentants de certains groupes ethniques dans des conditions égales. Tout cela n'est pas une hypothèse—ce sont des cas documentés.

Le fait que Murray reconnaisse ouvertement la présence de biais peut être interprété de deux façons. D'une part, c'est une manifestation d'honnêteté intellectuelle, rare chez les fonctionnaires gouvernementaux qui font la promotion de projets technologiques coûteux. Habituellement à ce stade, les gens parlent de "neutralité algorithmique" et d'"objectivité des données". D'autre part, la formule "nous savons qu'il y a un problème et nous allons travailler dessus" est une technique classique de gestion des attentes qui permet de mettre en œuvre la technologie maintenant et d'aborder les problèmes plus tard. Une promesse de "limiter l'injustice" n'est pas la même chose qu'une promesse de l'éliminer.

Pour un contexte plus large, il est important de comprendre que le Royaume-Uni suit une tendance mondiale. Les forces de l'ordre dans le monde entier augmentent leur utilisation de l'IA, et la question n'est plus de savoir si la police appliquera ces technologies, mais dans quelles conditions. L'Union européenne dans sa Loi sur l'IA a établi des restrictions strictes sur l'utilisation des systèmes d'identification biométrique en temps réel. Le Royaume-Uni après le Brexit n'est pas lié par ces règles et, apparemment, choisit une approche plus libérale—mettant l'accent sur l'autorégulation et le contrôle interne.

L'architecture même de la surveillance mérite une attention particulière. La création d'un centre spécialisé pour 115 millions de livres est une tentative de centraliser le développement et la surveillance, ce qui est théoriquement mieux que la mise en œuvre chaotique de l'IA par les départements de police individuels. Cependant, une question clé reste sans réponse : qui surveillera les surveillants ? Si la police elle-même mène l'audit des biais, c'est comme si nous demandions à un renard de garder le poulailler. La surveillance externe indépendante, la transparence des algorithmes, les mécanismes d'appel des décisions—tout cela reste pour l'instant dans le domaine des bonnes intentions.

Pour le public russe, cette histoire est importante comme point de référence. Les agences nationales d'application de la loi mettent également activement en œuvre des technologies de reconnaissance faciale et d'analyse prédictive, mais il y a presque pas de discussion publique sur les biais de ces systèmes en Russie. L'expérience britannique montre que même dans un pays avec des institutions développées de contrôle civil et des médias indépendants, le problème du biais de l'IA dans la police reste non résolu. Reconnaître le problème est une étape nécessaire, mais sans mécanismes de surveillance concrets, il risque de rester un beau geste suivi de la mise en œuvre discrète de technologies imparfaites à l'échelle nationale.