Una IA dice medir la aptitud laboral de los rusos por su rostro, y sus creadores apuntan al sector público

En Rusia ha aparecido una tecnología que supuestamente determina la aptitud profesional de una persona a partir de una foto de su rostro en pocos segundos. Los desarrolladores han anunciado negociaciones con organismos estatales y, si salen bien, la herramienta podría pasar a formar parte de los procesos de contratación pública. Suena a distopía, pero ya está ocurriendo.

Qué es el sistema

El desarrollo se basa en una red neuronal entrenada para analizar rasgos faciales y sacar conclusiones sobre las cualidades profesionales del candidato. Según los desarrolladores, el sistema evalúa fiabilidad, resistencia al estrés, tendencia al liderazgo y otros parámetros. El resultado se entrega en forma de puntuaciones numéricas en segundos, sin cuestionarios, entrevistas ni pruebas psicológicas.

Según sus creadores, el algoritmo se entrenó con una base de decenas de miles de casos de empleados reales de los que se habían documentado indicadores de rendimiento. Afirman que eso es lo que lo distingue de la fisiognomía y lo hace "científico". No hay verificación independiente de estos datos en acceso abierto.

El argumento clave en las negociaciones con los clientes es la velocidad y la escalabilidad. La selección inicial tradicional de un candidato lleva minutos u horas. El algoritmo lo hace en segundos y no se cansa. Para organizaciones con grandes volúmenes de contratación resulta atractivo, sobre todo si nadie profundiza en qué mide realmente el algoritmo.

Hacia el nivel estatal

Según CNews, los desarrolladores mantienen negociaciones activas con los departamentos de personal de empresas estatales y fuerzas de seguridad. Si los pilotos salen bien, la tecnología corre el riesgo de integrarse en los procesos estandarizados de contratación del sector público.

Esto cambia radicalmente la escala del problema. El departamento de RR. HH. de una empresa con cribado algorítmico es una cosa. La contratación estatal, donde la decisión determina el acceso de una persona al servicio, a beneficios y a un estatus social, es algo muy distinto. Las consecuencias concretas de ese escenario:

• La decisión de contratar o rechazar la toma un algoritmo, no una persona con responsabilidad
• El candidato no sabe qué rasgo de su rostro influyó en la evaluación
• El empleador puede apelar a una "IA objetiva" sin explicar los motivos del rechazo
• Impugnar una decisión algorítmica ante un tribunal es extremadamente difícil sin que se revele el modelo
• Los errores sistémicos y los sesgos se escalan automáticamente a todo el sector público

Por qué la ciencia está en contra

La comunidad académica estableció hace tiempo que los rasgos faciales no predicen el rendimiento profesional. No es una cuestión discutible: es un consenso asentado, recogido en cientos de trabajos revisados por pares en psicología, comportamiento organizacional y analítica de RR. HH.

La relación entre apariencia y competencia es un sesgo cognitivo llamado "efecto del atractivo físico", también conocido como efecto halo. Las personas tienden a atribuir mayor profesionalidad a quienes resultan más atractivos. Cuando una red neuronal se entrena con datos de contratación recopilados por personas, reproduce justo ese sesgo, solo que más rápido y con apariencia de objetividad matemática.

"Cualquier algoritmo entrenado con datos históricos de contratación

reproduce los prejuicios históricos, solo que más rápido y a mayor escala", una conclusión habitual de las investigaciones sobre sesgo algorítmico en RR. HH.

Cabe señalar que en la Unión Europea los sistemas biométricos de evaluación automática de candidatos están de facto prohibidos en el ámbito de la contratación según la AI Act. En Estados Unidos, varias empresas han perdido demandas por cribados algorítmicos con efecto discriminatorio probado. En Rusia, por ahora, no existe una barrera legal equivalente.

Qué significa

La historia de la "IA por el rostro" es un ejemplo revelador de cómo el envoltorio de marketing de un producto de redes neuronales permite vender una herramienta acientífica a grandes clientes. La autoridad tecnológica de la IA crea una ilusión de objetividad donde no la hay ni puede haberla.

El principal riesgo no es que el sistema funcione, sino que se empiece a usar precisamente porque resulta convincente y nadie se ocupa de examinar los detalles. La escala estatal multiplica el daño potencial: miles de personas podrían recibir un rechazo laboral por la forma de la nariz o la distancia entre los ojos, sin saber siquiera que una máquina las evaluó.