Avaliação de candidatos por IA parece imparcial, mas isso não a torna justa

Um especialista em recrutamento descreve o cenário assim: as empresas estão "bebendo de um hidrante" de candidaturas. Vagas populares recebem até 1000 inscrições em um único fim de semana. Nenhuma pessoa lê esse volume, e por isso o primeiro leitor do currículo passou a ser, cada vez mais, um algoritmo. A pesquisa noticiada pelo TechXplore levanta uma pergunta incômoda: as avaliações de candidatos feitas por IA podem parecer imparciais, mas isso não as torna justas.

O trecho disponível da publicação não revela a metodologia. Por isso, o texto a seguir trata da lógica do problema e do contexto em que ele surgiu.

Imparcialidade e justiça se medem de formas diferentes

No sentido de engenharia, imparcialidade quase sempre significa estatística. O sistema avalia da mesma forma currículos com nomes diferentes, e as taxas de aprovação entre os grupos não divergem demais. Isso é verificado, calculado e incluído no relatório para os auditores. A justiça é mais ampla. Ela responde a perguntas como: as pessoas foram selecionadas pelos critérios certos? Esses critérios têm relação com o trabalho real? O candidato rejeitado consegue entender o motivo e contestar a decisão?

Um modelo passa com facilidade no primeiro teste e falha no segundo. Se ele penaliza uma lacuna na carreira, uma faculdade "errada" ou o bairro de residência, números equilibrados por gênero e idade não garantem nada. Essas características funcionam como proxies: formalmente neutras, mas, na prática, reproduzem distorções antigas. Um precedente emblemático é a ferramenta interna de recrutamento da Amazon. Segundo a Reuters, ela reduzia a nota de currículos que continham a palavra "women's", e a empresa a abandonou em 2018.

O que já é medido e regulado

Os reguladores ainda exigem, em sua maioria, justamente a estatística, e isso explica por que é tão fácil obter um veredito "imparcial".

• Volume: até 1000 candidaturas por vaga popular em um fim de semana.
• Teste clássico: a regra dos quatro quintos (EEOC, 1978). A taxa de aprovação de qualquer grupo não deve ser inferior a 80% da taxa do grupo com melhor desempenho.
• Nova York: a Local Law 144 exige, desde 2023, auditoria independente de viés em ferramentas automáticas de seleção.
• UE: o AI Act classifica os sistemas de IA usados em contratação como de alto risco.
• Tribunais: a ação coletiva Mobley v. Workday, sobre possível discriminação por idade, teve o status de ação coletiva reconhecido em 2025.

Todos esses mecanismos olham para o resultado final. Eles têm mais dificuldade em detectar o caso em que o resultado é equilibrado, mas o caminho até ele é duvidoso.

Como lidar com isso

Quem compra ou desenvolve esses sistemas deve ampliar a auditoria para além dos percentuais finais. É preciso pedir ao fornecedor a lista de características em que o modelo se baseia para decidir e verificar se cada uma tem relação com os requisitos da vaga. Testes contrafactuais ajudam: o mesmo currículo com nome, ano de formatura ou endereço alterados. As rejeições, sobretudo as em massa e automáticas, devem passar ao menos por amostragem por um recrutador humano. E são necessários logs das decisões, para que o candidato possa receber uma explicação clara.

Para quem procura emprego, a conclusão é pragmática. Como o currículo é lido primeiro por uma máquina, a redação deve coincidir com o texto da vaga, e a estrutura do documento deve ser simples e legível para o parser. Mas a responsabilidade é de quem contrata. Se estatísticas equilibradas são a única prova de justiça, o sistema simplesmente é bom em parecer justo.