ACLU demanda a la policía de Florida por error en reconocimiento facial

ACLU presentó una demanda contra dos departamentos de policía de Florida por el arresto indebido de un hombre de Fort Myers acusado de secuestro infantil. Según la organización, los policías utilizaron incorrectamente el sistema de reconocimiento facial como evidencia principal de culpabilidad, ignorando los defectos evidentes de la tecnología.

Cuando el sistema se equivocó

El arresto se basó en una coincidencia generada por el sistema de reconocimiento facial. Los policías interpretaron el resultado de búsqueda como casi evidencia confiable y arrestaron al hombre. Sin embargo, posteriormente se descubrió que la coincidencia era errónea: la tecnología identificó incorrectamente a la persona.

Un problema conocido desde hace tiempo

El reconocimiento facial es una de las tecnologías de IA más antiguas utilizadas por la policía estadounidense. Pero es tristemente famosa por su falta de confiabilidad. ACLU y otras organizaciones llevan años señalando los mismos problemas:

• Los errores de identificación ocurren especialmente frecuentemente con fotos de baja calidad
• Los sistemas entrenados con conjuntos de datos insuficientemente diversos producen resultados sesgados
• Los policías sobrestiman la precisión y confiabilidad de los resultados
• Los algoritmos pueden producir una coincidencia muy confiable que en realidad es errónea

Sin embargo, los policías a menudo utilizan los resultados del sistema como punto de partida para la investigación, pero luego se basan en ellos como evidencia principal de culpabilidad.

¿Y ahora qué?

La demanda de ACLU es un intento de lograr cambios en la práctica a través de los tribunales. Si la organización gana, podría sentar un precedente para un control más estricto del uso del reconocimiento facial en las investigaciones. Para muchos departamentos de policía, esto será una señal para reevaluar sus procedimientos e introducir controles adicionales antes de utilizar los resultados de la tecnología.

Qué significa esto

El caso demuestra que incluso las tecnologías más antiguas y aplicadas durante mucho tiempo en el sistema de justicia penal necesitan ser reevaluadas y tener estándares de aplicación más estrictos. El reconocimiento facial sigue siendo uno de los métodos de identificación menos confiables, pero se utiliza ampliamente.