Polícia britânica admite viés em seu AI, mas promete combatê-lo

Quando um policial de alto escalão afirma abertamente que a tecnologia que o Estado está prestes a implantar em larga escala contém preconceito sistêmico, isso merece atenção cuidadosa. Isso é exatamente o que aconteceu no Reino Unido, onde Alex Murray, chefe da divisão de IA da Agência Nacional de Crime (NCA), em entrevista exclusiva ao Guardian, reconheceu o óbvio: a inteligência artificial a serviço dos órgãos de segurança pública será tendenciosa. Mas imediatamente prometeu que isso seria combatido.

O contexto dessa declaração é tão importante quanto seu conteúdo. O governo trabalhista do Reino Unido iniciou uma expansão dramática do uso de IA na polícia da Inglaterra e País de Gales. Não se trata de experimentos locais, mas de uma transformação sistêmica: a liderança policial está convencida de que, sem inteligência artificial, as forças de segurança simplesmente não conseguirão acompanhar a evolução do crime. Para realizar essas ambições, está sendo criado um centro de IA especializado da polícia com um orçamento de 115 milhões de libras esterlinas—aproximadamente 13,5 bilhões de rublos à taxa atual. Um valor que fala sobre a seriedade das intenções.

O próprio Murray se apressou em tranquilizar o público com uma frase que já se tornou um meme na mídia britânica: "Isto não é RoboCop". De acordo com ele, o foco é principalmente em melhorar a eficiência em investigações complexas—processamento de grandes conjuntos de dados, identificação de padrões, aceleração do trabalho analítico. Parece razoável e até inofensivo. Mas o diabo, como sempre, está nos detalhes.

O problema do preconceito da IA no setor de segurança pública não é uma ameaça teórica abstrata. A experiência global já acumulou exemplos alarmantes suficientes. Nos EUA, sistemas de análise preditiva da polícia demonstraram repetidamente preconceito racial, direcionando desproporcionalmente mais recursos para bairros onde minorias vivem. Sistemas de reconhecimento facial mostraram taxas de erro significativamente mais altas ao identificar pessoas com pele escura. Algoritmos para avaliar risco de reincidência atribuíram pontuações mais altas a representantes de certos grupos étnicos em condições iguais. Tudo isso não é hipótese—são casos documentados.

O fato de Murray reconhecer abertamente a presença de preconceito pode ser interpretado de duas maneiras. Por um lado, é uma manifestação de honestidade intelectual, rara para funcionários do governo que promovem projetos de tecnologia caros. Normalmente nesta etapa, as pessoas falam sobre "neutralidade algorítmica" e "objetividade dos dados". Por outro lado, a fórmula "sabemos que há um problema e vamos trabalhar nele" é uma técnica clássica de gestão de expectativas que permite implementar a tecnologia agora e resolver os problemas depois. Uma promessa de "limitar a injustiça" não é a mesma coisa que uma promessa de eliminá-la.

Para um contexto mais amplo, é importante entender que o Reino Unido está seguindo uma tendência global. As agências de segurança pública em todo o mundo estão aumentando seu uso de IA, e a questão não é mais se a polícia aplicará essas tecnologias, mas em que termos. A União Europeia em sua Lei de IA estabeleceu restrições rigorosas ao uso de sistemas de identificação biométrica em tempo real. O Reino Unido após o Brexit não está vinculado por essas regras e, aparentemente, está escolhendo uma abordagem mais liberal—com ênfase na autorregulação e controle interno.

A própria arquitetura de supervisão merece atenção especial. A criação de um centro especializado por 115 milhões de libras é uma tentativa de centralizar o desenvolvimento e supervisão, o que é teoricamente melhor do que a implementação caótica de IA por departamentos de polícia individuais. No entanto, uma pergunta-chave permanece sem resposta: quem monitorará os monitores? Se a própria polícia conduzir a auditoria de preconceito, é como se estivéssemos pedindo a uma raposa para guardar o galinheiro. Supervisão externa independente, transparência de algoritmos, mecanismos para apelar decisões—tudo isso permanece no reino das boas intenções por enquanto.

Para a audiência russa, esta história é importante como um ponto de referência. Os órgãos de segurança pública nacionais também estão implementando ativamente tecnologias de reconhecimento facial e análise preditiva, mas há quase nenhuma discussão pública sobre o preconceito desses sistemas na Rússia. A experiência britânica mostra que mesmo em um país com instituições desenvolvidas de controle civil e mídia independente, o problema do preconceito da IA na polícia permanece não resolvido. Reconhecer o problema é um primeiro passo necessário, mas sem mecanismos de supervisão concretos, corre o risco de permanecer um gesto bonito seguido pela implementação silenciosa de tecnologias imperfeitas em escala nacional.