La police de Londres utilise l'AI de Palantir pour surveiller ses propres agents

La Police Métropolitaine de Londres — la plus grande structure d'application de la loi de Grande-Bretagne — a officiellement confirmé pour la première fois qu'elle utilise des outils d'intelligence artificielle de la compagnie américaine Palantir pour surveiller le comportement de ses propres employés. Le système analyse les congés maladie, les absences, les heures supplémentaires et d'autres données internes pour identifier automatiquement les officiers présentant des problèmes potentiels d'éthique professionnelle. La Fédération de police — syndicat représentant les policiers de base — a immédiatement condamné la pratique, l'appelant « suspicion automatisée ».

La reconnaissance de Scotland Yard résulte d'une enquête journalistique du Guardian. Jusqu'à présent, la direction de la police s'était systématiquement refusée à confirmer ou démentir tout contact avec Palantir — une compagnie dont la réputation suscite des débats acérés de part et d'autre de l'Atlantique. Palantir, fondée avec la participation de Peter Thiel — l'un des principaux alliés de Donald Trump dans la Silicon Valley — a longtemps travaillé avec les services de renseignement et l'armée américains. Aujourd'hui, parmi ses clients figurent le service d'immigration ICE, qui mène des expulsions massives sous l'administration Trump, et l'armée israélienne. Pour les défenseurs britanniques des droits de l'homme, le simple fait de coopération avec une telle entreprise est déjà motif de préoccupation.

Mais l'essence du problème est plus profonde que le simple choix d'un entrepreneur. Pour la première fois, un grand service de police d'une démocratie occidentale applique ouvertement une analyse algorithmique non pas à des suspects ou à des citoyens, mais à ses propres officiers. Formellement, l'objectif est noble : la Police Métropolitaine traverse une profonde crise de confiance suite à une série de scandales — du meurtre de Sarah Everard par l'officier Wayne Couzens aux accusations systématiques de racisme et de sexisme documentées dans le rapport accablant de 2023 de la Baronne Casey.

La direction de la police cherche désespérément des outils capables d'identifier les employés problématiques avant qu'ils ne commettent des crimes graves ou des infractions. Les algorithmes de Palantir, qui analysent les modèles de comportement — congés maladie fréquents, heures supplémentaires irrégulières, absences inexpliquées — sont destinés à servir de système d'alerte précoce.

Cependant, c'est précisément ici que l'efficacité technologique entre en collision avec des questions fondamentales sur les droits des travailleurs et la nature du soupçon. Le choix de la Fédération de police de la phrase « suspicion automatisée » n'est pas accidentel. Lorsqu'un algorithme signale un officier sur la base d'anomalies statistiques — par exemple, des congés maladie trop fréquents — ce n'est pas une enquête sur une infraction spécifique, mais un profilage basé sur les données.

Un officier souffrant d'une maladie chronique, ou un employé traversant une crise familiale, risque d'être signalé par un système qui ne comprend pas le contexte. De plus, le simple fait de la surveillance totale crée une atmosphère de méfiance qui pourrait aggraver le moral déjà bas des rangs de la police de Londres.

Il y a aussi une dimension juridique. La loi britannique sur la protection des données — UK GDPR et la Loi de 2018 sur la protection des données — établit des exigences strictes pour la prise de décision automatisée affectant les personnes. Si les algorithmes de Palantir génèrent des recommandations affectant les carrières ou les procédures disciplinaires des officiers, cela pourrait nécessiter la réalisation d'une évaluation d'impact sur la protection des données et garantir le droit des employés de contester les décisions automatisées. Il reste incertain si toutes ces procédures ont été respectées, étant donné que Scotland Yard a caché l'utilisation de la technologie jusqu'au dernier moment.

La situation avec la Police Métropolitaine s'inscrit dans une tendance plus large qui prend rapidement de l'ampleur dans le monde entier. Les organismes chargés de l'application de la loi, de New York à Tokyo, déploient de plus en plus des systèmes d'IA — pour la reconnaissance faciale, la police prédictive, l'analyse des médias sociaux. Mais le cas de Londres est unique car ici, la surveillance algorithmique est dirigée vers l'intérieur de l'organisation elle-même. Cela crée un précédent qui pourrait s'étendre bien au-delà de la police : s'il est permissible de faire du profilage algorithmique des policiers, qu'est-ce qui empêcherait d'appliquer la même logique aux médecins, aux enseignants, aux fonctionnaires ?

Pour Palantir, ce contrat est une autre étape de son expansion sur le marché européen des services publics. L'entreprise travaille déjà avec le Service national de santé du Royaume-Uni, ce qui provoque également des protestations des défenseurs des droits de l'homme. Chaque nouveau contrat renforce la position de Palantir en tant que fournisseur indispensable d'infrastructure analytique à l'État — et rend simultanément de plus en plus difficile la question de savoir dans quelle mesure les institutions démocratiques devraient dépendre d'une compagnie américaine privée avec une liste de clients très spécifique.

L'expérience de Londres en matière de surveillance par IA des policiers pose à la société une question inconfortable pour laquelle il n'y a pas encore de bonne réponse. Peut-on combattre les problèmes institutionnels de la police en utilisant les mêmes outils de surveillance totale que la société critique lorsqu'ils sont dirigés contre les citoyens ? Ou, pour le dire simplement : qui surveillera ceux qui surveillent les surveillants ?