Un tribunal federal obliga a Workday a responder por discriminación en la selección de candidatos con IA

Un tribunal federal de EE. UU. ha permitido que continúe la demanda colectiva contra Workday. Un juez de San Francisco dictaminó que la compañía debe responder a las acusaciones de discriminación en la contratación asistida por IA. Se considera el primer caso que cuestiona de forma amplia los algoritmos del software de selección de candidatos.

La primera demanda contra un algoritmo de contratación

Históricamente, la mayoría de las reclamaciones por discriminación laboral se dirigían contra los empleadores, que eran quienes tomaban la decisión final de contratar o rechazar. Esta demanda se plantea de manera radicalmente distinta. El blanco es el propio proveedor: Workday, uno de los mayores desarrolladores de sistemas de RR. HH. corporativos del mundo, con cientos de miles de clientes empresariales.

Según los demandantes, los algoritmos de Workday levantaban barreras discriminatorias antes de que ningún reclutador humano pudiera ver un currículum. El mecanismo funcionaba como un filtro invisible: el sistema asignaba una puntuación a los candidatos y decidía si pasaban a la siguiente fase del embudo, sin intervención humana.

Abogados y observadores del sector describen el caso como un precedente. Por primera vez en EE. UU., una demanda colectiva apunta directa y ampliamente no a un empleador concreto, sino a la mecánica de la herramienta de contratación con IA y a la empresa que la creó y la vendió a miles de organizaciones.

De qué se acusa a Workday

Los demandantes afirman que el algoritmo de Workday filtraba a candidatos en las empresas clientes de maneras que infringen la legislación de California. Los detalles de las reclamaciones no se han revelado por completo, pero presuntamente se trata de discriminación sistémica por edad, raza o discapacidad.

Elementos clave de la acusación:

• El algoritmo de IA asignaba automáticamente una puntuación a los candidatos y descartaba a algunos antes de que interviniera un reclutador
• Los rechazos llegaban sin explicación, de modo que los candidatos no podían impugnar la decisión de la máquina
• Las empresas clientes de Workday podían desconocer el sesgo incorporado en el modelo
• El mismo algoritmo se aplicaba en miles de empleadores, lo que amplía de forma sustancial la escala de la posible discriminación
• Según los demandantes, las leyes de California contra la discriminación se extienden al desarrollador del software, y no solo al empleador final

Workday niega su culpa. La compañía ya intentó que se archivara la demanda, pero el juez consideró que los argumentos de los demandantes eran lo bastante sólidos como para que el caso llegue a un examen completo.

Por qué esto cambia las reglas

Hasta ahora, la responsabilidad por una contratación discriminatoria recaía por defecto en la empresa que decidía contratar o no. El proveedor de software quedaba en la sombra: su producto se consideraba una herramienta y la decisión la tomaba el empleador. Esta demanda rompe esa lógica.

Si el tribunal da la razón a los demandantes, los desarrolladores de sistemas de IA para contratación se enfrentarán a un nivel de responsabilidad radicalmente nuevo. Tendrán que demostrar que sus algoritmos no contienen sesgos ocultos, o asumir las mismas consecuencias legales que los empleadores discriminadores.

Para Workday, las posibles consecuencias son especialmente graves. Miles de empresas en todo el mundo usan su plataforma y, si la demanda prospera, la escala de las reclamaciones y de los posibles pagos podría ser incomparablemente mayor que en los casos típicos de discriminación en la contratación.

Qué significa

El tribunal de San Francisco lanza una señal clara: un algoritmo de contratación no es un intermediario neutral, y su creador responde de cómo el modelo toma decisiones. Para los desarrolladores de IA corporativa, esto supone un riesgo regulatorio radicalmente nuevo: un sesgo incorporado en el modelo puede ahora motivar una demanda multimillonaria, con independencia de que el proveedor lo conociera o no.