La policía británica admite que su IA es sesgada, pero promete combatirlo

Cuando un alto responsable policial dice abiertamente que una tecnología que el Estado quiere implantar de forma masiva contiene sesgos sistémicos, conviene prestar atención. Es lo que ha ocurrido en el Reino Unido, donde Alex Murray, jefe del área de IA de la Agencia Nacional contra el Crimen (NCA), reconoció en una entrevista exclusiva con The Guardian algo evidente: la inteligencia artificial al servicio de las fuerzas de seguridad será sesgada. Y de inmediato prometió que se luchará contra ello.

El contexto de esta declaración es tan importante como su contenido. El Gobierno laborista británico ha apostado por una expansión drástica del uso de la IA en la policía de Inglaterra y Gales. No se trata de experimentos locales, sino de una transformación sistémica: los mandos policiales están convencidos de que, sin inteligencia artificial, las fuerzas de seguridad simplemente no podrán seguir el ritmo de la evolución del crimen. Para cumplir estas ambiciones se crea un centro policial de IA especializado con un presupuesto de 115 millones de libras esterlinas, unos 13.500 millones de rublos al cambio actual. Una cifra que habla de la seriedad de las intenciones.

Murray se apresuró a tranquilizar a la opinión pública con una frase que ya se ha convertido en meme en los medios británicos: «Esto no es RoboCop». Según él, se trata ante todo de mejorar la eficiencia en investigaciones complejas: procesar grandes volúmenes de datos, detectar patrones, acelerar el trabajo analítico. Suena razonable e incluso inofensivo. Pero el diablo, como siempre, está en los detalles.

El sesgo de la IA en el ámbito policial no es una amenaza teórica y abstracta. La experiencia mundial ya ha acumulado ejemplos preocupantes. En Estados Unidos, los sistemas de policía predictiva han mostrado en repetidas ocasiones sesgo racial, al dirigir una cantidad desproporcionada de recursos a barrios donde viven minorías. Los sistemas de reconocimiento facial registraron un porcentaje de errores notablemente mayor al identificar a personas de piel oscura. Los algoritmos de evaluación del riesgo de reincidencia asignaban puntuaciones más altas a miembros de determinados grupos étnicos en igualdad de condiciones. Nada de esto son hipótesis: son casos documentados.

Que Murray reconozca abiertamente el sesgo admite dos lecturas. Por un lado, es una muestra de honestidad intelectual, poco habitual entre los funcionarios que impulsan costosos proyectos tecnológicos. Lo normal en esta fase es hablar de «neutralidad de los algoritmos» y «objetividad de los datos». Por otro, la fórmula «sabemos que hay un problema y trabajaremos en ello» es un recurso clásico de gestión de expectativas que permite implantar la tecnología ahora y resolver los problemas después. Prometer «limitar la injusticia» no es lo mismo que prometer eliminarla.

Para entender el contexto general, hay que tener en cuenta que el Reino Unido sigue una tendencia global. Las fuerzas de seguridad de todo el mundo están ampliando el uso de la IA, y la cuestión ya no es si la policía aplicará estas tecnologías, sino en qué condiciones. La Unión Europea estableció en su AI Act límites estrictos al uso de sistemas de identificación biométrica en tiempo real. Tras el Brexit, el Reino Unido no está sujeto a esas normas y, al parecer, opta por un enfoque más liberal, centrado en la autorregulación y el control interno.

La arquitectura del control merece una atención aparte. Crear un centro especializado de 115 millones de libras es un intento de centralizar el desarrollo y la supervisión, lo que en teoría es mejor que una implantación caótica de la IA por parte de cada unidad policial. Sin embargo, la pregunta clave sigue sin respuesta: ¿quién vigilará a los vigilantes? Si la auditoría del sesgo la realiza la propia policía, es como encargar al zorro que cuide el gallinero. La supervisión externa independiente, la transparencia de los algoritmos y los mecanismos para recurrir decisiones siguen, por ahora, en el terreno de los buenos deseos.

Para el público ruso, esta historia sirve como referencia. Las fuerzas de seguridad rusas también están implantando activamente tecnologías de reconocimiento facial y analítica predictiva, pero en Rusia prácticamente no existe un debate público sobre el sesgo de estos sistemas. La experiencia británica muestra que, incluso en un país con instituciones desarrolladas de control ciudadano y medios independientes, el problema del sesgo de la IA en la policía sigue sin resolverse. Reconocer el problema es un primer paso necesario, pero sin mecanismos concretos de control corre el riesgo de quedarse en un gesto bonito, seguido de la implantación silenciosa de tecnologías imperfectas en todo el país.