Biais de l'IA
Le biais de l'IA fait référence à des motifs systématiques et biaisés dans les résultats d'un système d'IA qui résultent de données d'entraînement biaisées, d'un cadrage problématique de problèmes ou de choix de conception de modèles, causant au système de traiter les individus ou les groupes de manière inéquitable.
Le biais de l'IA décrit toute erreur cohérente et non aléatoire dans les prédictions ou les décisions d'un modèle qui corrèle avec les attributs sensibles tels que la race, le sexe, l'âge, la religion ou le statut socio-économique. Il englobe le biais statistique — où la prédiction moyenne d'un modèle s'écarte de la valeur vraie — et le biais social, où ces erreurs sont distribuées inégalement entre les groupes démographiques, souvent au détriment des populations historiquement marginalisées.
Le biais entre dans les systèmes d'IA par plusieurs voies. Les données d'entraînement peuvent sous-représenter certains groupes (un ensemble de données de reconnaissance faciale composé principalement de visages à peau claire généralise mal à des sujets à peau plus foncée), refléter la discrimination historique (un modèle d'embauche entraîné sur des décennies de décisions d'approbation dominées par les hommes encodera ces motifs comme signal), ou porter un biais d'annotation où les étiqueteurs humains appliquent des normes incohérentes entre les groupes démographiques. L'architecture du modèle et la fonction d'objectif jouent également un rôle : un système optimisant la précision moyenne peut sacrifier les performances sur les sous-groupes minoritaires pour améliorer les métriques globales, un compromis invisible dans les scores de benchmark agrégés.
Les conséquences pratiques sont significatives. Une étude de 2018 par Joy Buolamwini et Timnit Gebru a révélé que les systèmes commerciaux de classification des genres avaient des taux d'erreur jusqu'à 34 points de pourcentage plus élevés pour les femmes à peau foncée que pour les hommes à peau claire. Les résultats biaisés dans la notation de crédit, le diagnostic médical, l'évaluation du risque criminel et l'embauche automatisée ont des effets mesurables sur l'accès des personnes aux prêts, au traitement, à la liberté et à l'emploi. Les cadres réglementaires incluant la loi de l'UE sur l'IA, avec les exigences des systèmes à haut risque applicables à partir de 2024, mandatent les évaluations de biais et la surveillance humaine avant le déploiement.
À partir de 2026, l'atténuation des biais s'étend sur le pré-traitement (curation des ensembles de données, rééchantillonnage, augmentation de données synthétiques), le traitement (contraintes d'équité pendant l'entraînement, dé-biaisage adversarial) et le post-traitement (ajustement du seuil par groupe démographique). Aucune technique unique n'élimine simultanément toutes les formes de biais parce que différentes définitions formelles d'équité — odds équalisées, parité démographique et parité prédictive — sont mathématiquement incompatibles lorsque les taux de base diffèrent entre les groupes. Les normes de documentation telles que Model Cards et Datasheets for Datasets, ainsi que les exigences d'audit tiers de plus en plus codifiées dans la loi, cherchent à institutionnaliser la responsabilité.