La policía de Londres usa la IA de Palantir para vigilar a sus propios agentes

La Policía Metropolitana de Londres, el mayor cuerpo policial del Reino Unido, ha confirmado por primera vez de forma oficial que usa herramientas de inteligencia artificial de la estadounidense Palantir para monitorizar el comportamiento de sus propios empleados. El sistema analiza bajas médicas, ausencias injustificadas, horas extra y otros datos internos para detectar de forma automática a agentes con posibles problemas de ética profesional. La Police Federation, el sindicato que representa a los agentes de base, condenó de inmediato la práctica y la calificó de «sospecha automatizada».

El reconocimiento de Scotland Yard llega tras una investigación periodística de The Guardian. Hasta ese momento, la cúpula policial se había negado sistemáticamente a confirmar o desmentir cualquier contacto con Palantir, una compañía cuya reputación genera un intenso debate a ambos lados del Atlántico. Palantir, cofundada por Peter Thiel —uno de los principales aliados de Donald Trump en Silicon Valley—, trabaja desde hace años con los servicios de inteligencia y el ejército de Estados Unidos.

Entre sus clientes actuales figuran el servicio de inmigración ICE, que lleva a cabo deportaciones masivas bajo la administración Trump, y el ejército de Israel. Para los defensores británicos de los derechos humanos, el mero hecho de colaborar con una empresa así ya es motivo de alarma.

Pero el problema va más allá de la elección de un proveedor. Por primera vez, un gran cuerpo policial de una democracia occidental aplica abiertamente el análisis algorítmico no a sospechosos o ciudadanos, sino a sus propios agentes. Sobre el papel, el objetivo es loable: la Metropolitan Police atraviesa una profunda crisis de confianza tras una serie de escándalos, desde el asesinato de Sarah Everard a manos del agente Wayne Couzens hasta las acusaciones de racismo y sexismo sistémicos recogidas en el demoledor informe de la baronesa Casey de 2023.

La dirección busca desesperadamente herramientas capaces de identificar a los empleados problemáticos antes de que cometan un delito o una infracción grave. Los algoritmos de Palantir, que analizan patrones de comportamiento —bajas frecuentes, horas extra irregulares, ausencias sin explicación—, están pensados para funcionar como ese sistema de alerta temprana.

Sin embargo, aquí es donde la eficiencia tecnológica choca con cuestiones fundamentales sobre los derechos laborales y la naturaleza de la sospecha. La Police Federation no eligió por casualidad la expresión «sospecha automatizada». Cuando un algoritmo señala a un agente por anomalías estadísticas —por ejemplo, demasiadas bajas médicas—, no se trata de investigar una infracción concreta, sino de elaborar perfiles a partir de datos.

Un agente con una enfermedad crónica o un empleado que atraviesa una crisis familiar corre el riesgo de quedar bajo la sospecha de un sistema que no entiende el contexto. Además, la vigilancia total crea por sí misma un clima de desconfianza que puede agravar una moral ya de por sí baja entre las filas de la policía londinense.

También hay una dimensión jurídica. La legislación británica de protección de datos —el UK GDPR y la Data Protection Act 2018— impone requisitos estrictos a la toma de decisiones automatizada que afecta a personas. Si los algoritmos de Palantir generan recomendaciones con impacto en la carrera de los agentes o en procedimientos disciplinarios, podría ser necesario realizar una evaluación de impacto en la protección de datos y garantizar el derecho de los empleados a impugnar las decisiones automatizadas. Por ahora no está claro si se cumplieron todos estos procedimientos, dado que Scotland Yard ocultó hasta el último momento que utilizaba esta tecnología.

El caso de la Metropolitan Police encaja en una tendencia más amplia que gana fuerza rápidamente en todo el mundo. Las fuerzas del orden, de Nueva York a Tokio, adoptan cada vez más sistemas de IA para el reconocimiento facial, la policía predictiva y el análisis de redes sociales. Pero el caso de Londres es único porque la vigilancia algorítmica se dirige hacia el interior de la propia organización. Esto sienta un precedente que podría extenderse mucho más allá de la policía: si es aceptable perfilar algorítmicamente a los agentes, ¿qué impide aplicar la misma lógica a médicos, profesores o funcionarios?

Para Palantir, este contrato es un paso más en su expansión por el mercado europeo de servicios públicos. La compañía ya trabaja con el Servicio Nacional de Salud británico, algo que también ha provocado protestas de los defensores de los derechos humanos. Cada nuevo contrato refuerza la posición de Palantir como proveedor imprescindible de infraestructura analítica para el Estado y, al mismo tiempo, complica cada vez más la pregunta de hasta qué punto las instituciones democráticas deberían depender de una empresa privada estadounidense con una lista de clientes muy particular.

El experimento londinense de vigilancia policial con IA plantea a la sociedad una pregunta incómoda que todavía no tiene una buena respuesta. ¿Se pueden combatir los problemas institucionales de la policía con las mismas herramientas de vigilancia total que la sociedad critica cuando se dirigen contra los ciudadanos? O, dicho de forma más sencilla: ¿quién vigilará a quienes vigilan a los vigilantes?