Может ли нейросеть быть предвзятой при подборе резюме?

у нас в компании как раз был такой случай, потом систему донастраивали после жалоб, сразу не заметили проблему если честно

Коллега права, это реальный и хорошо задокументированный риск, а не паранойя. Алгоритм учится на прошлых решениях компании, и если там были перекосы, он их выучит и повторит, просто более незаметно и в масштабе. Автоматизировать отбор можно, но без финальной проверки человеком это рискованно.

Важно: предвзятость алгоритмов при подборе резюме — задокументированная проблема, известная по нескольким крупным публичным случаям, где системы неосознанно занижали оценку определённым группам кандидатов из-за перекосов в обучающих данных. Что стоит запомнить: внедрять такой инструмент можно, но с обязательным тестированием на предвзятость перед запуском и с сохранением финального решения за человеком, а не полной передачей отбора алгоритму без контроля.

Да, риск предвзятости реальный, и коллега поднимает обоснованный вопрос: если алгоритм обучался на исторических данных о том, кого раньше нанимали, он может неосознанно перенять и закрепить прошлые перекосы, например по полу, возрасту или другим признакам, которые формально не должны влиять на решение о найме. Это не значит, что использовать такие инструменты нельзя вообще, но перед внедрением стоит убедиться, что систему тестировали на предвзятость, а решения принимаются не полностью автоматически, а с проверкой человеком на финальном этапе.