Результат оказался парадоксальным: модель систематически занижала оценки резюме, содержащих слово «женский» — будь то «капитан женской шахматной команды» или «женский колледж». Система не была запрограммирована на дискриминацию. Она просто выявила закономерность в исторических данных: в технологических ролях Amazon преобладали мужчины. Проект закрыли.
Машинное обучение без иллюзий. Понимание возможностей и границ ML
·
Сергей Кирницкий
