La evaluación de candidatos con IA parece imparcial, pero eso no la hace justa

Un experto en contratación describe lo que ocurre así: las empresas «beben de una manguera de bomberos» de candidaturas. Las vacantes populares reciben hasta 1000 solicitudes en un solo fin de semana. Una persona no puede leer ese volumen, así que el primer lector del currículum es cada vez más a menudo un algoritmo. El estudio del que informa TechXplore plantea una pregunta incómoda: las evaluaciones de candidatos hechas por IA pueden parecer imparciales, pero eso no las hace justas.

El fragmento disponible de la publicación no revela la metodología, de modo que lo que sigue trata de la lógica del problema y del contexto en el que surgió.

Imparcialidad y justicia se miden de forma distinta

En sentido de ingeniería, la imparcialidad casi siempre significa estadística. El sistema puntúa igual currículums con nombres distintos y los porcentajes de aprobados por grupo no se alejan demasiado entre sí. Eso se comprueba, se calcula y se incluye en el informe para los auditores. La justicia es un concepto más amplio. Responde a otras preguntas: si las personas se seleccionaron con los criterios adecuados, si esos criterios guardan relación con el trabajo real y si un candidato rechazado puede entender el motivo y recurrir la decisión.

Un modelo puede superar con facilidad la primera prueba y fracasar en la segunda. Si penaliza un hueco en la trayectoria profesional, una universidad «equivocada» o el barrio de residencia, las cifras equilibradas por sexo y edad no garantizan nada. Estos rasgos funcionan como proxies: formalmente neutros, en la práctica reproducen sesgos anteriores. Un precedente ilustrativo es la herramienta interna de reclutamiento de Amazon. Según Reuters, bajaba la puntuación de los currículums que contenían la palabra «women's», y en 2018 la compañía dejó de usarla.

Qué se mide y se regula hoy

Por ahora, los reguladores exigen sobre todo estadísticas, y eso explica por qué resulta tan fácil obtener un veredicto «imparcial».

• Carga: hasta 1000 solicitudes por vacante popular en un fin de semana.
• Prueba clásica: la regla de los cuatro quintos (EEOC, 1978). La tasa de selección de cualquier grupo no debe ser inferior al 80% de la tasa del grupo con mejores resultados.
• Nueva York: la Local Law 144 exige desde 2023 una auditoría independiente de sesgos en las herramientas automáticas de selección.
• UE: la AI Act clasifica los sistemas de IA para contratación como de alto riesgo.
• Tribunales: la demanda Mobley v. Workday, por posible discriminación por edad, obtuvo el estatus de demanda colectiva en 2025.

Todos estos mecanismos observan el resultado final. Detectan peor el caso en que el resultado es equilibrado, pero el camino hasta él resulta dudoso.

Cómo abordarlo

Quienes compran o desarrollan estos sistemas deberían ampliar la auditoría más allá de los porcentajes finales. Conviene pedir al proveedor la lista de rasgos en los que el modelo basa sus decisiones y comprobar si cada uno guarda relación con los requisitos del puesto. Resultan útiles las pruebas contrafactuales: el mismo currículum con el nombre, el año de graduación o la dirección modificados. Los rechazos, sobre todo los masivos y automáticos, deberían pasar al menos de forma selectiva por un reclutador humano. Y hacen falta registros de las decisiones para que el candidato pueda recibir una explicación comprensible.

Para los candidatos, la conclusión es pragmática. Primero lee el currículum una máquina, así que las formulaciones deben coincidir con el texto de la vacante y la estructura del documento tiene que ser simple y legible para el parser. Pero la responsabilidad recae en el empleador. Si unas estadísticas equilibradas son la única prueba de justicia, el sistema simplemente sabe parecer justo.