L'ACLU poursuit la police de Floride en raison d'une erreur de reconnaissance faciale

L'ACLU a déposé une action en justice contre deux départements de police de Floride pour l'arrestation injustifiée d'un homme de Fort Myers accusé d'enlèvement d'enfant. Selon l'organisation, les policiers ont à tort utilisé un système de reconnaissance faciale comme preuve principale de culpabilité, ignorant les défauts évidents de la technologie.

Quand le système s'est trompé

L'arrestation s'est opérée sur la base d'une correspondance fournie par le système de reconnaissance faciale. Les policiers ont interprété le résultat de la recherche comme une preuve quasi certaine et ont arrêté l'homme. Cependant, il s'est avéré ultérieurement que la correspondance était erronée — la technologie avait incorrectement identifié la personne.

Un problème connu depuis longtemps

La reconnaissance faciale est l'une des plus anciennes technologies d'IA utilisées par la police américaine. Mais elle est tristement célèbre pour son manque de fiabilité. L'ACLU et d'autres organisations signalent depuis des années les mêmes problèmes :

• Les erreurs d'identification se produisent particulièrement souvent sur des photos de mauvaise qualité
• Les systèmes entraînés sur des ensembles de données insuffisamment diversifiés produisent des résultats biaisés
• Les policiers surévaluent la précision et la fiabilité des résultats
• Les algorithmes peuvent produire une correspondance très confiante qui s'avère en réalité erronée

Cependant, les policiers utilisent souvent les résultats du système comme point de départ d'une enquête, puis s'en appuient comme preuve principale de culpabilité.

Et après

L'action en justice de l'ACLU est une tentative d'obtenir un changement de pratique par voie judiciaire. Si l'organisation gagne, cela pourrait créer un précédent pour un contrôle plus strict de l'utilisation de la reconnaissance faciale dans les enquêtes. Pour de nombreux départements de police, ce serait un signal pour réexaminer leurs procédures et introduire des vérifications supplémentaires avant d'utiliser les résultats de la technologie.

Ce que cela signifie

Cette affaire montre que même les technologies les plus anciennes et depuis longtemps utilisées dans le système judiciaire ont besoin d'être réévaluées et d'avoir des normes d'application plus strictes. La reconnaissance faciale reste l'une des méthodes d'identification les moins fiables, mais elle est largement utilisée.