ACLU processa polícia da Flórida por erro de reconhecimento facial

A ACLU entrou com ação judicial contra dois departamentos de polícia da Flórida pelo caso de prisão ilegal de um homem de Fort Myers, acusado de sequestro de criança. Segundo a organização, a polícia usou incorretamente o sistema de reconhecimento facial como principal prova de culpa, ignorando as limitações óbvias da tecnologia.

Quando o sistema errou

A prisão ocorreu com base em uma correspondência fornecida pelo sistema de reconhecimento facial. A polícia interpretou o resultado da busca como prova quase definitiva e prendeu o homem. No entanto, posteriormente descobriu-se que a correspondência era errônea — a tecnologia havia identificado a pessoa incorretamente.

Um problema conhecido há muito tempo

O reconhecimento facial é uma das tecnologias de IA mais antigas utilizadas pela polícia americana. Mas é notoriamente conhecida por sua falta de confiabilidade. A ACLU e outras organizações há anos apontam os mesmos problemas:

• Erros de identificação ocorrem especialmente frequentemente em fotos de baixa qualidade
• Sistemas treinados em conjuntos de dados insuficientemente diversos produzem resultados tendenciosos
• A polícia superestima a precisão e confiabilidade dos resultados
• Os algoritmos podem produzir uma correspondência muito confiante que é na verdade errônea

Enquanto isso, a polícia frequentemente usa os resultados do sistema como ponto de partida para investigações, mas depois se baseia neles como principal prova de culpa.

O que vem a seguir

A ação da ACLU é uma tentativa de obter mudanças de prática através dos tribunais. Se a organização vencer, isso pode se tornar um precedente para um controle mais rigoroso do uso do reconhecimento facial em investigações. Para muitos departamentos de polícia, isso será um sinal para reavaliar seus procedimentos e introduzir verificações adicionais antes de usar os resultados da tecnologia.

O que isso significa

O caso mostra que mesmo as tecnologias mais antigas e há muito utilizadas no sistema de justiça criminal precisam ser reavaliadas e ter padrões de uso mais rigorosos. O reconhecimento facial permanece um dos métodos de identificação menos confiáveis, mas continua sendo amplamente utilizado.