Un tribunal fédéral oblige Workday à répondre de discrimination dans le tri de candidats par IA

Un tribunal fédéral américain a autorisé la poursuite de l'action collective contre Workday. Un juge de San Francisco a estimé que l'entreprise devait répondre des accusations de discrimination à l'embauche par IA. L'affaire est présentée comme la première à contester largement les algorithmes des logiciels de présélection de candidats.

La première action contre un algorithme de recrutement

Historiquement, la plupart des plaintes pour discrimination à l'emploi visaient les employeurs, responsables de la décision finale d'embaucher ou de refuser. Cette action est construite de manière radicalement différente. La cible est l'éditeur lui-même : Workday, l'un des plus grands développeurs de systèmes RH d'entreprise au monde, avec des centaines de milliers de clients professionnels.

Selon les plaignants, les algorithmes de Workday dressaient des barrières discriminatoires avant qu'un recruteur humain ait pu regarder un CV. Le mécanisme fonctionnait comme un filtre invisible : le système attribuait une note aux candidats et décidait de les laisser passer ou non dans l'entonnoir, sans intervention humaine.

Juristes et observateurs du secteur décrivent l'affaire comme un précédent. Pour la première fois aux États-Unis, une action collective vise directement et largement non pas un employeur précis, mais la mécanique de l'outil de recrutement par IA lui-même, et l'entreprise qui l'a créé et vendu à des milliers d'organisations.

Ce que l'on reproche à Workday

Les plaignants affirment que l'algorithme de Workday filtrait les candidats des entreprises clientes d'une manière contraire à la législation californienne. Les détails des demandes n'ont pas été entièrement divulgués, mais il s'agirait de discrimination systémique fondée sur l'âge, l'origine ethnique ou le handicap.

Éléments clés de l'accusation :

• L'algorithme d'IA attribuait automatiquement une note aux candidats et en éliminait une partie avant l'intervention d'un recruteur
• Les refus arrivaient sans explication : les candidats ne pouvaient pas contester la décision de la machine
• Les entreprises clientes de Workday pouvaient ignorer le biais intégré au modèle
• Le même algorithme était utilisé chez des milliers d'employeurs, ce qui élargit considérablement l'ampleur de la discrimination potentielle
• Selon les plaignants, les lois californiennes contre la discrimination s'appliquent au développeur du logiciel, et pas seulement à l'employeur final

Workday nie toute faute. L'entreprise a déjà tenté de faire rejeter la plainte, mais le juge a estimé les arguments des plaignants suffisamment solides pour que l'affaire soit examinée sur le fond.

Pourquoi cela change les règles

Jusqu'ici, la responsabilité d'une embauche discriminatoire incombait par défaut à l'entreprise qui choisissait d'embaucher ou non. L'éditeur de logiciels restait dans l'ombre : son produit était considéré comme un outil, et la décision revenait à l'employeur. Cette action brise cette logique.

Si le tribunal donne raison aux plaignants, les développeurs de systèmes d'IA de recrutement feront face à un niveau de responsabilité radicalement nouveau. Ils devront prouver que leurs algorithmes ne contiennent aucun biais caché, ou assumer les mêmes conséquences juridiques que les employeurs discriminants.

Pour Workday, les conséquences potentielles sont particulièrement lourdes. Des milliers d'entreprises dans le monde utilisent sa plateforme et, si la plainte aboutit, l'ampleur des demandes et des indemnités potentielles pourrait être sans commune mesure avec celle des affaires habituelles de discrimination à l'embauche.

Ce que cela signifie

Le tribunal de San Francisco envoie un signal clair : un algorithme de recrutement n'est pas un intermédiaire neutre, et son créateur répond de la manière dont le modèle prend ses décisions. Pour les développeurs d'IA d'entreprise, cela représente un risque réglementaire radicalement nouveau : un biais intégré au modèle peut désormais motiver une action en justice de plusieurs millions de dollars, que l'éditeur en ait eu connaissance ou non.