Tribunal federal obriga a Workday a responder por discriminação na seleção de candidatos com IA

Um tribunal federal dos EUA permitiu que a ação coletiva contra a Workday prossiga. Um juiz de San Francisco decidiu que a empresa deve responder às acusações de discriminação na contratação com o uso de IA. O caso é apontado como o primeiro a questionar de forma ampla os algoritmos de softwares de triagem de candidatos.

A primeira ação contra um algoritmo de contratação

Historicamente, a maioria das reclamações por discriminação no trabalho foi dirigida aos empregadores, que respondiam pela decisão final de contratar ou recusar. Esta ação foi estruturada de forma radicalmente diferente. O alvo é o próprio fornecedor: a Workday, uma das maiores desenvolvedoras de sistemas corporativos de RH do mundo, com centenas de milhares de clientes empresariais.

Segundo os autores, os algoritmos da Workday criavam barreiras discriminatórias antes que qualquer recrutador humano tivesse chance de olhar um currículo. O mecanismo funcionava como um filtro invisível: o sistema atribuía uma pontuação aos candidatos e decidia se eles avançariam no funil, sem participação de uma pessoa.

Advogados e observadores do setor descrevem o caso como um precedente. Pela primeira vez nos EUA, uma ação coletiva mira direta e amplamente não um empregador específico, mas a mecânica da própria ferramenta de contratação com IA e a empresa que a criou e a vendeu a milhares de organizações.

O que a Workday enfrenta

Os autores afirmam que o algoritmo da Workday filtrava candidatos nas empresas clientes de maneiras que violam a legislação da Califórnia. Os detalhes das alegações não foram totalmente divulgados, mas, ao que tudo indica, trata-se de discriminação sistêmica por idade, raça ou deficiência.

Principais elementos da acusação:

• O algoritmo de IA atribuía pontuação automaticamente aos candidatos e eliminava parte deles antes da participação de um recrutador
• As recusas chegavam sem explicação, e os candidatos não podiam contestar a decisão da máquina
• As empresas clientes da Workday podiam não saber do viés embutido no modelo
• O mesmo algoritmo era usado por milhares de empregadores, o que amplia de forma substancial a escala da possível discriminação
• Segundo os autores, as leis antidiscriminação da Califórnia se aplicam ao desenvolvedor do software, e não apenas ao empregador final

A Workday nega culpa. A empresa já tentou encerrar a ação, mas o juiz considerou os argumentos dos autores fortes o bastante para que o caso seja julgado integralmente.

Por que isso muda as regras

Até agora, a responsabilidade por contratação discriminatória recaía por padrão sobre a empresa que decidia contratar ou não. O fornecedor de software ficava na sombra: seu produto era visto como ferramenta, e a decisão era do empregador. Esta ação quebra essa lógica.

Se o tribunal ficar do lado dos autores, os desenvolvedores de sistemas de IA para contratação enfrentarão um nível de responsabilidade totalmente novo. Terão de provar que seus algoritmos não têm viés oculto ou arcar com as mesmas consequências jurídicas que empregadores discriminadores.

Para a Workday, as possíveis consequências são especialmente graves. Milhares de empresas no mundo usam sua plataforma e, se a ação for acolhida, a escala das reivindicações e dos possíveis pagamentos pode ser incomparavelmente maior que em casos típicos de discriminação na contratação.

O que isso significa

O tribunal de San Francisco envia um sinal claro: um algoritmo de contratação não é um intermediário neutro, e seu criador responde pela forma como o modelo toma decisões. Para desenvolvedores de IA corporativa, isso representa um risco regulatório totalmente novo: um viés embutido no modelo agora pode motivar uma ação de milhões de dólares, independentemente de o fornecedor saber dele ou não.