ИИ-оценка кандидатов выглядит беспристрастной, но справедливой не становится

Один из экспертов по найму описывает происходящее так: компании «пьют из пожарного шланга» откликов. На популярные вакансии за один уикенд приходит до 1000 заявок. Человек такой объём не прочтёт, поэтому первым читателем резюме всё чаще становится алгоритм. Исследование, о котором сообщает TechXplore, ставит неудобный вопрос: оценки кандидатов от ИИ могут выглядеть беспристрастными, но от этого не становятся справедливыми.

В доступном фрагменте публикации методология не раскрыта, поэтому ниже речь идёт о самой логике проблемы и о контексте, в котором она возникла.

Беспристрастность и справедливость измеряют по-разному

Беспристрастность в инженерном смысле почти всегда означает статистику. Система одинаково оценивает резюме с разными именами, а доли прошедших отбор по группам не расходятся слишком сильно. Это проверяется, считается и вставляется в отчёт для аудиторов. Справедливость шире. Она отвечает на вопросы: по тем ли критериям отобрали людей, связаны ли они с реальной работой, может ли отклонённый кандидат понять причину и оспорить решение.

Модель легко проходит первую проверку и проваливается на второй. Если она штрафует за пробел в карьере, за «неправильный» вуз или за район проживания, ровные цифры по полу и возрасту ничего не гарантируют. Эти признаки работают как прокси: формально нейтральные, на деле они воспроизводят прежние перекосы. Показательный прецедент — внутренний рекрутинговый инструмент Amazon. По сообщению Reuters, он снижал оценку резюме со словом «women's», и в 2018 году компания от него отказалась.

Что уже измеряют и регулируют

Регуляторы пока в основном требуют именно статистики, и это объясняет, почему «беспристрастный» вердикт так легко получить.

• Нагрузка: до 1000 откликов на популярную вакансию за выходные.
• Классический тест: правило четырёх пятых (EEOC, 1978). Доля прошедших в любой группе не должна быть ниже 80% от доли в лучшей группе.
• Нью-Йорк: Local Law 144 с 2023 года требует независимого аудита автоматических инструментов отбора на предвзятость.
• ЕС: AI Act относит системы ИИ для найма к высокорисковым.
• Суды: коллективный иск Mobley v. Workday о возможной дискриминации по возрасту получил статус коллективного в 2025 году.

Все эти механизмы смотрят на результат на выходе. Они хуже ловят случай, когда результат ровный, а путь к нему сомнительный.

Как с этим работать

Тем, кто покупает или строит такие системы, стоит расширить аудит за пределы итоговых процентов. Нужно запросить у вендора список признаков, на которых модель принимает решения, и проверить каждый на связь с требованиями вакансии. Полезны контрфактические тесты: одно и то же резюме с изменённым именем, годом выпуска или адресом. Отказы, особенно массовые и автоматические, должны хотя бы выборочно проходить через живого рекрутера. И нужны логи решений, чтобы кандидат мог получить внятное объяснение.

Соискателям вывод прагматичный. Резюме сначала читает машина, поэтому формулировки должны совпадать с текстом вакансии, а структура документа должна быть простой и читаемой для парсера. Но ответственность лежит на нанимателе. Если ровная статистика служит единственным доказательством честности, система просто хорошо умеет выглядеть честной.