La policía británica admite sesgo en su AI, pero promete combatirlo

Cuando un oficial de policía de alto nivel afirma abiertamente que la tecnología que el Estado está a punto de desplegar a gran escala contiene sesgo sistemático, esto merece atención cuidadosa. Esto es exactamente lo que sucedió en el Reino Unido, donde Alex Murray, jefe de la división de IA de la Agencia Nacional contra el Crimen (NCA), en una entrevista exclusiva con The Guardian reconoció lo obvio: la inteligencia artificial al servicio de las fuerzas del orden será sesgada. Pero inmediatamente prometió que esto sería abordado.

El contexto de esta declaración es tan importante como su contenido. El gobierno laborista del Reino Unido ha emprendido una expansión dramática del uso de IA en la policía de Inglaterra y Gales. No se trata de experimentos locales, sino de una transformación sistémica: el liderazgo policial está convencido de que sin inteligencia artificial, las fuerzas del orden simplemente no podrán seguir el ritmo de la evolución del crimen. Para realizar estas ambiciones, se está creando un centro de IA especializado de la policía con un presupuesto de 115 millones de libras esterlinas—aproximadamente 13.500 millones de rublos al tipo de cambio actual. Una cantidad que habla sobre la seriedad de las intenciones.

El propio Murray se apresuró a tranquilizar al público con una frase que ya se ha convertido en un meme en los medios británicos: "Esto no es RoboCop". Según él, el enfoque es principalmente mejorar la eficiencia en investigaciones complejas—procesamiento de grandes conjuntos de datos, identificación de patrones, aceleración del trabajo analítico. Suena razonable e incluso inofensivo. Pero el diablo, como siempre, está en los detalles.

El problema del sesgo de IA en la aplicación de la ley no es una amenaza teórica abstracta. La experiencia global ya ha acumulado ejemplos alarmantes suficientes. En los EE.UU., los sistemas de análisis predictivo de la policía han demostrado repetidamente sesgo racial, dirigiendo desproporcionadamente más recursos a barrios donde viven minorías. Los sistemas de reconocimiento facial mostraron tasas de error significativamente más altas al identificar personas con piel oscura. Los algoritmos para evaluar el riesgo de reincidencia asignaron puntuaciones más altas a representantes de ciertos grupos étnicos bajo condiciones iguales. Todo esto no es hipótesis—son casos documentados.

El hecho de que Murray reconozca abiertamente la presencia de sesgo puede interpretarse de dos formas. Por un lado, es una manifestación de honestidad intelectual, rara para funcionarios del gobierno que promueven proyectos de tecnología costosos. Normalmente en esta etapa, la gente habla de "neutralidad algorítmica" y "objetividad de los datos". Por otro lado, la fórmula "sabemos que hay un problema y trabajaremos en él" es una técnica clásica de gestión de expectativas que permite implementar la tecnología ahora y abordar los problemas después. Una promesa de "limitar la injusticia" no es lo mismo que una promesa de eliminarla.

Para un contexto más amplio, es importante entender que el Reino Unido está siguiendo una tendencia global. Las agencias de seguridad en todo el mundo están aumentando su uso de IA, y la pregunta ya no es si la policía aplicará estas tecnologías, sino en qué términos. La Unión Europea en su Ley de IA ha establecido restricciones estrictas sobre el uso de sistemas de identificación biométrica en tiempo real. El Reino Unido después del Brexit no está vinculado por estas normas y, aparentemente, está eligiendo un enfoque más liberal—con énfasis en la autorregulación y el control interno.

La propia arquitectura de supervisión merece atención especial. La creación de un centro especializado por 115 millones de libras es un intento de centralizar el desarrollo y la supervisión, que es teóricamente mejor que la implementación caótica de IA por departamentos de policía individuales. Sin embargo, una pregunta clave permanece sin respuesta: ¿quién monitoreará a los monitores? Si la propia policía realiza la auditoría de sesgo, es como si le pidiéramos a una zorra que cuide el gallinero. Supervisión externa independiente, transparencia de algoritmos, mecanismos para apelar decisiones—todo esto permanece en el ámbito de las buenas intenciones por ahora.

Para la audiencia rusa, esta historia es importante como punto de referencia. Las agencias de seguridad pública nacionales también están implementando activamente tecnologías de reconocimiento facial y análisis predictivo, pero hay casi ninguna discusión pública sobre el sesgo de estos sistemas en Rusia. La experiencia británica muestra que incluso en un país con instituciones desarrolladas de control civil y medios independientes, el problema del sesgo de IA en la policía permanece sin resolver. Reconocer el problema es un paso necesario, pero sin mecanismos de supervisión concretos, corre el riesgo de permanecer como un gesto hermoso seguido por la implementación silenciosa de tecnologías imperfectas a escala nacional.