L'évaluation des candidats par IA paraît impartiale, mais n'en devient pas équitable pour autant

Un expert du recrutement décrit la situation ainsi : les entreprises « boivent à la lance d'incendie » des candidatures. Les postes populaires reçoivent jusqu'à 1000 dossiers en un seul week-end. Aucun humain ne peut lire un tel volume, et c'est donc de plus en plus souvent un algorithme qui lit le CV en premier. L'étude relayée par TechXplore pose une question dérangeante : les évaluations de candidats produites par une IA peuvent paraître impartiales sans pour autant être équitables.

Le passage accessible de la publication ne détaille pas la méthodologie. Ce qui suit porte donc sur la logique du problème et sur le contexte dans lequel il est apparu.

Impartialité et équité ne se mesurent pas de la même façon

Pour un ingénieur, l'impartialité relève presque toujours de la statistique. Le système note de la même manière des CV portant des noms différents, et les taux de réussite des différents groupes ne divergent pas trop. Cela se vérifie, se calcule et s'insère dans un rapport destiné aux auditeurs. L'équité est plus large. Elle répond à d'autres questions : les candidats ont-ils été retenus sur les bons critères, ces critères sont-ils liés au travail réel, un candidat écarté peut-il comprendre le motif et contester la décision ?

Un modèle passe aisément le premier test et échoue au second. S'il pénalise une interruption de carrière, une université « inadéquate » ou le quartier de résidence, des chiffres homogènes par sexe et par âge ne garantissent rien. Ces critères jouent le rôle de variables indirectes (proxys) : en apparence neutres, ils reproduisent en réalité les biais antérieurs. L'outil de recrutement interne d'Amazon en offre un précédent parlant. Selon Reuters, il dégradait la note des CV contenant le mot « women's », et l'entreprise l'a abandonné en 2018.

Ce que l'on mesure et réglemente déjà

Les régulateurs exigent pour l'instant surtout des statistiques, ce qui explique pourquoi il est si facile d'obtenir un verdict « impartial ».

• Charge : jusqu'à 1000 candidatures par poste populaire en un week-end.
• Test classique : la règle des quatre cinquièmes (EEOC, 1978). Le taux de sélection de n'importe quel groupe ne doit pas être inférieur à 80 % de celui du groupe le mieux classé.
• New York : la Local Law 144 exige depuis 2023 un audit indépendant des biais pour les outils automatisés de sélection.
• UE : l'AI Act classe les systèmes d'IA utilisés pour le recrutement parmi les systèmes à haut risque.
• Tribunaux : l'action collective Mobley v. Workday, portant sur une possible discrimination liée à l'âge, a obtenu en 2025 le statut d'action collective.

Tous ces mécanismes examinent le résultat en sortie. Ils détectent moins bien le cas où le résultat est homogène, mais où le chemin qui y mène est douteux.

Comment s'y prendre

Ceux qui achètent ou développent ces systèmes ont intérêt à élargir l'audit au-delà des pourcentages finaux. Il faut demander au fournisseur la liste des caractéristiques sur lesquelles le modèle fonde ses décisions, puis vérifier le lien de chacune avec les exigences du poste. Les tests contrefactuels sont utiles : un même CV dont on modifie le nom, l'année de diplôme ou l'adresse. Les refus, surtout massifs et automatiques, devraient passer, ne serait-ce que par échantillonnage, entre les mains d'un recruteur humain. Enfin, il faut conserver des journaux de décision, afin que le candidat puisse obtenir une explication claire.

Pour les candidats, la conclusion est pragmatique. Le CV est d'abord lu par une machine : les formulations doivent donc correspondre au texte de l'offre, et la structure du document doit rester simple et lisible pour un parseur. Mais la responsabilité incombe à l'employeur. Si des statistiques homogènes constituent la seule preuve d'équité, le système sait simplement bien paraître équitable.