Tribunal federal responsabiliza a Workday por discriminación en la selección de candidatos con AI

Un tribunal federal estadounidense ha permitido que una demanda colectiva contra Workday continúe—un juez de San Francisco dictaminó que la empresa debe responder a acusaciones de discriminación en la contratación a través de IA. Este caso se describe como el primero en la historia que ataca ampliamente algoritmos de software de selección de candidatos.

El Primer Litigio Contra un Algoritmo de Selección

La mayoría de las reclamaciones de discriminación en la contratación históricamente se han dirigido a los empleadores: ellos eran responsables de las decisiones finales—contratar o rechazar. Este litigio está estructurado de manera fundamentalmente diferente. El propio proveedor quedó bajo escrutinio—Workday, uno de los mayores desarrolladores de sistemas de RR.

HH. corporativos del mundo con cientos de miles de clientes corporativos. Según los demandantes, los algoritmos de Workday creaban barreras discriminatorias antes de que ningún reclutador humano tuviera oportunidad de mirar un currículum.

El mecanismo funcionaba como un filtro invisible: el sistema asignaba a los candidatos una puntuación y tomaba decisiones sobre hacerlos avanzar en el proceso de selección—sin intervención humana. Abogados y observadores del sector describen el caso como un precedente. Por primera vez, una demanda colectiva en EE.

UU. se dirige directa y ampliamente no a un empleador específico, sino a la mecánica de la propia herramienta de selección con IA y a la empresa que la creó y vendió a miles de organizaciones.

Las Acusaciones Contra Workday

Los demandantes afirman que el algoritmo de Workday filtró candidatos en empresas clientes de formas que violan las leyes de California. Los detalles completos de la demanda no se han divulgado plenamente, pero las acusaciones presuntamente implican discriminación sistemática por edad, raza o discapacidad. Elementos clave de la acusación:

• El algoritmo de IA asignaba automáticamente puntuaciones a los candidatos y eliminaba a algunos antes de la intervención del reclutador
• Los rechazos llegaban sin explicación—los candidatos no podían impugnar la decisión de la máquina
• Las empresas clientes de Workday podrían no haber sido conscientes del sesgo integrado del modelo
• El mismo algoritmo se utilizaba en miles de empleadores, expandiendo fundamentalmente el alcance de la discriminación potencial
• Según la posición de los demandantes, las leyes anti-discriminación de California se aplican al desarrollador de software, no solo al empleador contratante

Workday niega su culpabilidad. La empresa ya ha intentado lograr que se desestimara la demanda, pero el juez consideró que los argumentos de los demandantes eran lo suficientemente sólidos para permitir que el caso llegara a juicio completo.

Por Qué Esto Cambia las Reglas del Juego

Hasta ahora, la responsabilidad de la contratación discriminatoria ha recaído por defecto en la empresa que toma la decisión—contratar o rechazar. El proveedor de software permanecía en la sombra: su producto se consideraba una herramienta y el empleador tomaba la decisión. Este litigio quiebra esa lógica.

Si el tribunal falla a favor de los demandantes, los desarrolladores de sistemas de selección con IA enfrentarán un nivel fundamentalmente nuevo de responsabilidad. Tendrán que demostrar que sus algoritmos no contienen sesgo oculto—o enfrentar las mismas consecuencias legales que los empleadores discriminadores. Para Workday, las posibles consecuencias son particularmente graves.

Miles de empresas en todo el mundo utilizan su plataforma y, si la demanda tiene éxito, la escala de reclamaciones e indemnizaciones potenciales podría ser incomparablemente mayor que en casos típicos de discriminación en la contratación.

Lo Que Esto Significa

El tribunal de San Francisco está enviando una señal clara: un algoritmo de selección no es un intermediario neutral y su creador es responsable de cómo el modelo toma decisiones. Para los desarrolladores de IA corporativos, esto significa un riesgo regulatorio fundamentalmente nuevo: el sesgo integrado en un modelo ahora podría convertirse en base para una demanda de millones de dólares—independientemente de si el propio proveedor lo sabía.