Tribunal federal responsabiliza a Workday por discriminação na triagem de candidatos por AI

Um tribunal federal dos EUA permitiu que uma ação coletiva contra a Workday prossiga—um juiz de São Francisco determinou que a empresa deve responder as acusações de discriminação na contratação por meio de IA. Este caso é descrito como o primeiro da história a atacar amplamente algoritmos de software de triagem de candidatos.

A Primeira Ação Judicial Contra um Algoritmo de Recrutamento

A maioria das reclamações de discriminação em contratações historicamente foram direcionadas aos empregadores: eles eram responsáveis pelas decisões finais—contratar ou rejeitar. Esta ação é estruturada de forma fundamentalmente diferente. O próprio fornecedor se viu sob escrutínio—a Workday, uma das maiores desenvolvedoras de sistemas de RH corporativos do mundo com centenas de milhares de clientes corporativos.

De acordo com os autores, os algoritmos da Workday criavam barreiras discriminatórias antes mesmo de qualquer recrutador humano conseguir dar uma olhada no currículo. O mecanismo funcionava como um filtro invisível: o sistema atribuía aos candidatos uma classificação e tomava decisões sobre avançá-los no funil—sem envolvimento humano. Advogados e observadores da indústria descrevem o caso como precedente.

Pela primeira vez, uma ação coletiva nos EUA visa direta e amplamente não um empregador específico, mas a mecânica da própria ferramenta de contratação com IA e a empresa que a criou e vendeu para milhares de organizações.

O Que a Workday É Acusada De Fazer

Os autores afirmam que o algoritmo da Workday filtrou candidatos em empresas clientes de formas que violam as leis da Califórnia. Os detalhes completos da ação ainda não foram totalmente divulgados, mas as acusações presumivelmente envolvem discriminação sistemática por idade, raça ou deficiência. Elementos-chave da acusação:

• O algoritmo de IA atribuía automaticamente classificações aos candidatos e eliminava alguns antes do envolvimento do recrutador
• As rejeições chegavam sem explicação—candidatos não conseguiam contestar a decisão da máquina
• As empresas clientes da Workday podem não ter estado cientes do viés integrado do modelo
• O mesmo algoritmo foi usado por milhares de empregadores, expandindo fundamentalmente a escala da discriminação potencial
• De acordo com a posição dos autores, as leis anti-discriminação da Califórnia se aplicam ao desenvolvedor de software, não apenas ao empregador contratante

A Workday nega sua culpa. A empresa já tentou conseguir a rejeição da ação, mas o juiz considerou os argumentos dos autores suficientemente convincentes para permitir que o caso prossiga para julgamento completo.

Por Que Isso Muda as Regras do Jogo

Até agora, a responsabilidade pela contratação discriminatória recaia por padrão sobre a empresa que tomava a decisão—contratar ou rejeitar. O fornecedor de software permanecia na sombra: seu produto era considerado uma ferramenta e o empregador tomava a decisão. Esta ação quebra essa lógica.

Se o tribunal decidir a favor dos autores, os desenvolvedores de sistemas de contratação com IA enfrentarão um nível fundamentalmente novo de responsabilidade. Eles terão que provar que seus algoritmos não contêm viés oculto—ou enfrentar as mesmas consequências legais de empregadores discriminadores. Para a Workday, as consequências potenciais são particularmente graves.

Milhares de empresas em todo o mundo usam sua plataforma e, se a ação for bem-sucedida, a escala de reclamações e possíveis indenizações pode ser incomparavelmente maior do que em casos típicos de discriminação na contratação.

O Que Isso Significa

O tribunal de São Francisco está enviando um sinal claro: um algoritmo de contratação não é um intermediário neutro e seu criador é responsável por como o modelo toma decisões. Para desenvolvedores de IA corporativos, isso significa um risco regulatório fundamentalmente novo: viés integrado em um modelo agora pode se tornar motivo para um processo de milhões de dólares—independentemente de o fornecedor em si ter conhecimento disso.