Polícia de Londres usa IA da Palantir para vigiar os próprios policiais

A Polícia Metropolitana de Londres, maior força policial do Reino Unido, confirmou oficialmente pela primeira vez que usa ferramentas de inteligência artificial da empresa americana Palantir para monitorar o comportamento dos próprios funcionários. O sistema analisa atestados médicos, faltas, horas extras e outros dados internos para identificar automaticamente policiais com possíveis problemas de ética profissional. A Federação de Polícia, sindicato que representa os policiais de base, condenou a prática imediatamente e a chamou de «suspeita automatizada».

A admissão da Scotland Yard veio após uma investigação jornalística do The Guardian. Até então, o comando da polícia se recusava sistematicamente a confirmar ou negar qualquer relação com a Palantir, empresa cuja reputação provoca debates acalorados dos dois lados do Atlântico. Fundada com a participação de Peter Thiel, um dos principais aliados de Donald Trump no Vale do Silício, a Palantir trabalha há muito tempo com os serviços de inteligência e as Forças Armadas dos EUA.

Hoje, entre seus clientes estão o ICE, serviço de imigração que conduz deportações em massa no governo Trump, e o Exército de Israel. Para os defensores de direitos humanos britânicos, a simples parceria com uma empresa desse tipo já é motivo de alarme.

Mas o problema vai além da escolha do fornecedor. Pela primeira vez, uma grande força policial de uma democracia ocidental aplica abertamente análise algorítmica não a suspeitos ou cidadãos, mas aos próprios policiais. No papel, o objetivo é nobre: a Metropolitan Police atravessa uma profunda crise de confiança após uma série de escândalos, do assassinato de Sarah Everard pelo policial Wayne Couzens às acusações de racismo e sexismo sistêmicos registradas no devastador relatório da baronesa Casey, em 2023.

O comando da corporação busca desesperadamente ferramentas capazes de identificar funcionários problemáticos antes que cometam um crime ou uma infração grave. Os algoritmos da Palantir, que analisam padrões de comportamento como licenças médicas frequentes, horas extras irregulares e ausências sem explicação, foram pensados para servir como esse alerta precoce.

É justamente aí, porém, que a eficiência tecnológica esbarra em questões fundamentais sobre os direitos dos trabalhadores e a natureza da suspeita. A Federação de Polícia não escolheu a expressão «suspeita automatizada» por acaso. Quando um algoritmo sinaliza um policial com base em anomalias estatísticas, como licenças médicas frequentes demais, o que acontece é um perfilamento baseado em dados, e não a investigação de uma infração concreta. Um policial com uma doença crônica ou um funcionário passando por uma crise familiar corre o risco de cair sob suspeita de um sistema que não entende contexto. Além disso, o próprio monitoramento total cria um clima de desconfiança que pode agravar o moral, já baixo, nas fileiras da polícia londrina.

Há também uma dimensão jurídica. A legislação britânica de proteção de dados, o UK GDPR e o Data Protection Act 2018, impõe exigências rígidas para decisões automatizadas que afetam pessoas. Se os algoritmos da Palantir geram recomendações que influenciam a carreira ou processos disciplinares de policiais, isso pode exigir uma avaliação de impacto sobre a proteção de dados e a garantia do direito dos funcionários de contestar decisões automatizadas. Ainda não está claro se todos esses procedimentos foram cumpridos, já que a Scotland Yard escondeu até o último momento o próprio uso da tecnologia.

O caso da Metropolitan Police se encaixa em uma tendência mais ampla, que ganha força rapidamente no mundo todo. De Nova York a Tóquio, forças de segurança adotam cada vez mais sistemas de IA para reconhecimento facial, policiamento preditivo e análise de redes sociais. O caso de Londres, porém, é único porque a vigilância algorítmica se volta para dentro da própria organização. Isso cria um precedente que pode ir muito além da polícia: se é aceitável traçar perfis algorítmicos de policiais, o que impede aplicar a mesma lógica a médicos, professores e servidores públicos?

Para a Palantir, o contrato é mais um passo na expansão pelo mercado europeu de serviços públicos. A empresa já trabalha com o Serviço Nacional de Saúde britânico, o que também provoca protestos de defensores de direitos humanos. Cada novo contrato reforça a posição da Palantir como fornecedora indispensável de infraestrutura analítica para o Estado e, ao mesmo tempo, torna mais complexa a questão de quanto instituições democráticas deveriam depender de uma empresa privada americana com uma lista de clientes bastante peculiar.

O experimento londrino de vigilância de policiais por IA coloca diante da sociedade uma pergunta incômoda, que ainda não tem uma boa resposta. É possível combater os problemas institucionais da polícia com as mesmas ferramentas de vigilância total que a sociedade critica quando são apontadas para os cidadãos? Ou, em termos mais simples: quem vai vigiar quem vigia os vigilantes?