Polícia britânica admite viés em sua IA, mas promete combatê-lo

Quando um alto funcionário da polícia diz abertamente que uma tecnologia que o Estado pretende implantar em massa contém viés sistêmico, isso merece atenção. Foi o que aconteceu no Reino Unido, onde Alex Murray, chefe da área de IA da Agência Nacional de Combate ao Crime (NCA), reconheceu o óbvio em entrevista exclusiva ao Guardian: a inteligência artificial a serviço das forças de segurança será enviesada. E prometeu na mesma hora que haverá esforços para combater o problema.

O contexto da declaração é tão importante quanto o conteúdo. O governo trabalhista britânico decidiu expandir de forma drástica o uso de IA na polícia da Inglaterra e do País de Gales. Não se trata de experimentos locais, mas de uma transformação sistêmica: a cúpula policial está convencida de que, sem inteligência artificial, as forças de segurança simplesmente não conseguirão acompanhar a evolução do crime. Para realizar essas ambições, está sendo criado um centro policial de IA especializado, com orçamento de 115 milhões de libras esterlinas, cerca de 13,5 bilhões de rublos na cotação atual. Um valor que indica seriedade de propósito.

Murray se apressou em tranquilizar o público com uma frase que já virou meme na mídia britânica: "Isto não é o RoboCop". Segundo ele, o foco é, antes de tudo, ganhar eficiência em investigações complexas: processar grandes volumes de dados, identificar padrões, acelerar o trabalho analítico. Soa razoável e até inofensivo. Mas o diabo, como sempre, está nos detalhes.

O viés da IA na área de segurança pública não é uma ameaça teórica e abstrata. A experiência mundial já acumulou exemplos preocupantes. Nos Estados Unidos, sistemas de policiamento preditivo mostraram repetidamente viés racial, direcionando uma quantidade desproporcional de recursos a bairros onde vivem minorias. Sistemas de reconhecimento facial apresentaram taxa de erro bem maior ao identificar pessoas de pele escura. Algoritmos de avaliação de risco de reincidência atribuíram pontuações mais altas a integrantes de certos grupos étnicos, em condições iguais. Nada disso é hipótese: são casos documentados.

O fato de Murray admitir abertamente o viés pode ser interpretado de duas formas. De um lado, é uma demonstração de honestidade intelectual, rara entre autoridades que defendem projetos tecnológicos caros. Normalmente, nessa fase, fala-se em "neutralidade dos algoritmos" e "objetividade dos dados". De outro, a fórmula "sabemos que há um problema e vamos trabalhar nele" é um recurso clássico de gestão de expectativas, que permite implantar a tecnologia agora e resolver os problemas depois. Prometer "limitar a injustiça" não é o mesmo que prometer eliminá-la.

No contexto mais amplo, é importante entender que o Reino Unido acompanha uma tendência global. Forças de segurança do mundo todo estão ampliando o uso de IA, e a questão já não é se a polícia vai usar essas tecnologias, mas em que condições. A União Europeia, em seu AI Act, impôs limites rígidos ao uso de sistemas de identificação biométrica em tempo real. Depois do Brexit, o Reino Unido não está vinculado a essas regras e, pelo visto, escolhe uma abordagem mais liberal, com ênfase em autorregulação e controle interno.

A arquitetura de controle merece atenção à parte. Criar um centro especializado de 115 milhões de libras é uma tentativa de centralizar o desenvolvimento e a supervisão, o que, em teoria, é melhor do que a adoção caótica de IA por unidades policiais isoladas. Mas a pergunta central continua sem resposta: quem vai fiscalizar os fiscais? Se a auditoria de viés é feita pela própria polícia, é como pôr a raposa para cuidar do galinheiro. Supervisão externa independente, transparência dos algoritmos e mecanismos para contestar decisões continuam, por enquanto, no campo das boas intenções.

Para o público russo, essa história serve de referência. As forças de segurança da Rússia também vêm adotando ativamente reconhecimento facial e análise preditiva, mas praticamente não há debate público no país sobre o viés desses sistemas. A experiência britânica mostra que, mesmo em um país com instituições desenvolvidas de controle civil e mídia independente, o problema do viés da IA na polícia segue sem solução. Reconhecer o problema é um primeiro passo necessário, mas, sem mecanismos concretos de controle, corre o risco de ficar como um belo gesto, seguido da implantação silenciosa de tecnologias imperfeitas em todo o país.