Polícia de Londres usa AI da Palantir para monitorar seus próprios policiais

A Polícia Metropolitana de Londres — a maior estrutura de segurança pública da Grã-Bretanha — confirmou oficialmente pela primeira vez que utiliza ferramentas de inteligência artificial da empresa americana Palantir para monitorar o comportamento de seus próprios funcionários. O sistema analisa licenças médicas, faltas, horas extras e outros dados internos para identificar automaticamente oficiais com potenciais problemas de ética profissional. A Federação de Polícia — sindicato que representa os policiais da base — condenou imediatamente a prática, chamando-a de "suspeita automatizada".

O reconhecimento de Scotland Yard resultou de uma investigação jornalística do The Guardian. Até este momento, a liderança policial tinha se recusado consistentemente a confirmar ou negar qualquer contato com a Palantir — uma empresa cuja reputação provoca debates acalorados dos dois lados do Atlântico. A Palantir, fundada com participação de Peter Thiel — um dos principais aliados de Donald Trump no Vale do Silício — há muito trabalha com os serviços de inteligência e o exército americanos.

Atualmente, entre seus clientes estão o serviço de imigração ICE, que conduz deportações em massa sob a administração Trump, e o exército de Israel. Para defensores britânicos dos direitos humanos, o simples fato de cooperação com tal empresa já é motivo de preocupação.

Mas a essência do problema é mais profunda do que simplesmente escolher um contratante. Pela primeira vez, um grande serviço policial de uma democracia ocidental aplica abertamente análise algorítmica não a suspeitos ou cidadãos, mas aos seus próprios oficiais. Formalmente, o objetivo é nobre: a Polícia Metropolitana está vivenciando uma profunda crise de confiança após uma série de escândalos — desde o assassinato de Sarah Everard pelo oficial Wayne Couzens até acusações sistemáticas de racismo e sexismo documentadas no relatório devastador de 2023 de Baronesa Casey.

A liderança policial está desesperadamente procurando ferramentas capazes de identificar funcionários problemáticos antes que cometam crimes sérios ou violações. Os algoritmos da Palantir, que analisam padrões comportamentais — licenças médicas frequentes, horas extras irregulares, ausências inexplicadas — destinam-se a servir como um sistema de alerta precoce.

No entanto, é precisamente aqui que a eficiência tecnológica colide com questões fundamentais sobre direitos dos trabalhadores e a natureza da suspeita. A escolha da Federação de Polícia pela frase "suspeita automatizada" não é acidental. Quando um algoritmo marca um oficial com base em anomalias estatísticas — digamos, licenças médicas muito frequentes — isso não é uma investigação de uma violação específica, mas um perfil baseado em dados.

Um oficial que sofre de doença crônica, ou um funcionário que passa por uma crise familiar, corre o risco de ser marcado por um sistema que não compreende o contexto. Além disso, o simples fato do monitoramento total cria uma atmosfera de desconfiança que pode agravar o moral já baixo nas fileiras da polícia de Londres.

Existe também uma dimensão legal. A lei britânica de proteção de dados — UK GDPR e a Lei de Proteção de Dados de 2018 — estabelece requisitos rigorosos para a tomada de decisões automatizadas que afetam pessoas. Se os algoritmos da Palantir geram recomendações que afetam as carreiras ou procedimentos disciplinares de oficiais, isso pode exigir a realização de uma avaliação de impacto de proteção de dados e garantir o direito dos funcionários de questionar decisões automatizadas. Permanece incerto se todos esses procedimentos foram seguidos, dado que Scotland Yard ocultou o fato do uso da tecnologia até o último momento.

A situação com a Polícia Metropolitana se encaixa em uma tendência mais ampla que está ganhando momentum rapidamente em todo o mundo. Agências de segurança pública de Nova York a Tóquio estão cada vez mais implementando sistemas de IA — para reconhecimento facial, policiamento preditivo, análise de mídia social. Mas o caso de Londres é único porque aqui a vigilância algorítmica é direcionada internamente para a própria organização. Isso cria um precedente que poderia se espalhar bem além da polícia: se é permissível perfilar algoritmicamente policiais, o que impede aplicar a mesma lógica a médicos, professores, servidores públicos?

Para a Palantir, este contrato é outro passo em sua expansão para o mercado de serviços públicos europeu. A empresa já trabalha com o Serviço Nacional de Saúde do Reino Unido, o que também provoca protestos de defensores dos direitos humanos. Cada novo contrato fortalece a posição da Palantir como fornecedora indispensável de infraestrutura analítica para o estado — e simultaneamente torna cada vez mais difícil a questão de quanto as instituições democráticas devem depender de uma empresa americana privada com uma lista de clientes muito específica.

O experimento de Londres com vigilância de IA de policiais coloca uma questão desconfortável para a sociedade para a qual ainda não há uma boa resposta. Pode-se combater problemas institucionais da polícia usando as mesmas ferramentas de vigilância total que a sociedade critica quando direcionadas aos cidadãos? Ou, colocando de forma simples: quem vigiará aqueles que vigiam os vigilantes?