La policía de Londres usa AI de Palantir para vigilar a sus propios agentes

La Policía Metropolitana de Londres — la mayor estructura de seguridad pública de Gran Bretaña — ha confirmado oficialmente por primera vez que utiliza herramientas de inteligencia artificial de la empresa estadounidense Palantir para monitorear el comportamiento de sus propios empleados. El sistema analiza bajas por enfermedad, ausencias, horas extra y otros datos internos para identificar automáticamente a oficiales con problemas potenciales de ética profesional. La Federación de Policía — sindicato que representa a los policías de base — condenó inmediatamente la práctica, llamándola "sospecha automatizada".

El reconocimiento de Scotland Yard fue resultado de una investigación periodística de The Guardian. Hasta este momento, el liderazgo policial se había negado consistentemente a confirmar o negar cualquier contacto con Palantir — una empresa cuya reputación provoca debates acalorados en ambos lados del Atlántico. Palantir, fundada con participación de Peter Thiel — uno de los principales aliados de Donald Trump en Silicon Valley — hace mucho tiempo trabaja con los servicios de inteligencia y el ejército estadounidenses.

Hoy en día, entre sus clientes está el servicio de inmigración ICE, que realiza deportaciones masivas bajo la administración Trump, y el ejército de Israel. Para los defensores de derechos humanos británicos, el mero hecho de la cooperación con tal empresa ya es motivo de preocupación.

Pero la esencia del problema es más profunda que simplemente elegir un contratista. Por primera vez, un importante servicio policial de una democracia occidental aplica abiertamente análisis algorítmico no a sospechosos o ciudadanos, sino a sus propios oficiales. Formalmente, el objetivo es noble: la Policía Metropolitana está experimentando una profunda crisis de confianza tras una serie de escándalos — desde el asesinato de Sarah Everard por el oficial Wayne Couzens hasta acusaciones sistemáticas de racismo y sexismo documentadas en el demoledor informe de 2023 de la Baronesa Casey.

El liderazgo policial busca desesperadamente herramientas capaces de identificar empleados problemáticos antes de que cometan delitos graves o infracciones. Los algoritmos de Palantir, que analizan patrones de comportamiento — bajas frecuentes, horas extra irregulares, ausencias inexplicables — están diseñados para servir como sistema de alerta temprana.

Sin embargo, es precisamente aquí donde la eficiencia tecnológica choca con preguntas fundamentales sobre los derechos de los trabajadores y la naturaleza de la sospecha. La elección de la Federación de Policía de la frase "sospecha automatizada" no es accidental. Cuando un algoritmo marca a un oficial basándose en anomalías estadísticas — digamos, bajas demasiado frecuentes — esto no es una investigación de una infracción específica, sino un perfil basado en datos.

Un oficial que sufre de enfermedad crónica, o un empleado que atraviesa una crisis familiar, corre el riesgo de ser marcado por un sistema que no comprende el contexto. Además, el simple hecho del monitoreo total crea una atmósfera de desconfianza que puede agravar la ya baja moral en las filas de la policía de Londres.

También existe una dimensión legal. La ley británica de protección de datos — UK GDPR y la Ley de Protección de Datos de 2018 — establece requisitos estrictos para la toma de decisiones automatizadas que afecten a las personas. Si los algoritmos de Palantir generan recomendaciones que afectan las carreras o procedimientos disciplinarios de los oficiales, esto podría requerir la realización de una evaluación de impacto en la protección de datos y garantizar el derecho de los empleados a cuestionar decisiones automatizadas. Sigue siendo incierto si todos estos procedimientos se cumplieron, dado que Scotland Yard ocultó el hecho del uso de la tecnología hasta el último momento.

La situación con la Policía Metropolitana se ajusta a una tendencia más amplia que está ganando impulso rápidamente en todo el mundo. Organismos de seguridad pública de Nueva York a Tokio están implementando cada vez más sistemas de IA — para reconocimiento facial, policiamiento predictivo, análisis de redes sociales. Pero el caso de Londres es único porque aquí la vigilancia algorítmica se dirige hacia adentro de la propia organización. Esto crea un precedente que podría extenderse mucho más allá de la policía: si es permisible perfilar algorítmicamente a policías, ¿qué impide aplicar la misma lógica a médicos, maestros, funcionarios públicos?

Para Palantir, este contrato es otro paso en su expansión al mercado europeo de servicios públicos. La empresa ya trabaja con el Servicio Nacional de Salud del Reino Unido, lo que también provoca protestas de defensores de derechos humanos. Cada nuevo contrato fortalece la posición de Palantir como proveedor indispensable de infraestructura analítica para el estado — y simultáneamente hace cada vez más difícil la pregunta de cuánto deben depender las instituciones democráticas de una empresa estadounidense privada con una lista de clientes muy específica.

El experimento de Londres con vigilancia de IA de policías plantea a la sociedad una pregunta incómoda para la que aún no hay una buena respuesta. ¿Se pueden combatir problemas institucionales de la policía utilizando las mismas herramientas de vigilancia total que la sociedad critica cuando se dirigen a los ciudadanos? O, dicho de forma más simple: ¿quién vigilará a quienes vigilan a los vigilantes?