Viés de IA
Viés de IA refere-se a padrões sistemáticos e enviesados nos resultados de um sistema de IA que surgem de dados de treinamento enviesados, definição de problema falha, ou escolhas de design de modelo, causando o sistema tratar indivíduos ou grupos inequitativamente.
Viés de IA descreve qualquer erro consistente e não-aleatório nas predições ou decisões de um modelo que se correlaciona com atributos sensíveis como raça, gênero, idade, religião ou status socioeconômico. Ele abrange tanto viés estatístico — onde a predição média de um modelo se desvia do valor verdadeiro — quanto viés social, onde esses erros são distribuídos desigualmente entre grupos demográficos, frequentemente em detrimento das populações historicamente marginalizadas.
Viés entra em sistemas de IA através de múltiplos caminhos. Dados de treinamento podem subrepresendar certos grupos (um conjunto de dados de reconhecimento facial composto principalmente de faces com tons de pele claros generalizará mal para indivíduos com pele mais escura), refletir discriminação histórica (um modelo de contratação treinado em décadas de decisões de aprovação dominadas por homens codificará esses padrões como sinal), ou carregar viés de anotação onde anotadores humanos aplicam padrões inconsistentes entre grupos demográficos. A arquitetura do modelo e a função objetivo também desempenham um papel: um sistema otimizando precisão média pode sacrificar o desempenho em subgrupos minoritários para melhorar métricas gerais, um tradeoff invisível em pontuações agregadas de benchmark.
As consequências práticas são significativas. Um estudo de 2018 de Joy Buolamwini e Timnit Gebru descobriu que sistemas comerciais de classificação de gênero tinham taxas de erro até 34 pontos percentuais mais altas para mulheres com pele escura do que para homens com pele clara. Saídas enviesadas em scoring de crédito, diagnóstico médico, avaliação de risco criminal, e contratação automatizada têm efeitos mensuráveis no acesso das pessoas a empréstimos, tratamento, liberdade e emprego. Frameworks regulatórios incluindo o AI Act da UE, com requisitos de sistema de alto risco aplicáveis a partir de 2024, exigem avaliações de viés e supervisão humana antes da implantação.
A partir de 2026, mitigação de viés abrange pré-processamento (curação de conjunto de dados, reamostragem, augmentação de dados sintéticos), em-processamento (restrições de fairness durante treinamento, desviesamento adversarial), e pós-processamento (ajuste de limite por grupo demográfico). Nenhuma técnica única elimina todas as formas de viés simultaneamente porque diferentes definições formais de fairness — equalized odds, demographic parity, e predictive parity — são matematicamente incompatíveis quando as taxas base diferem entre grupos. Padrões de documentação como Model Cards e Datasheets for Datasets, junto com requisitos de auditoria de terceiros cada vez mais codificados em lei, buscam institucionalizar responsabilidade.