Исследование выявило расовую предвзятость алгоритмов прогнозирования успеваемости студентов

Исследование выявило расовую предвзятость алгоритмов прогнозирования успеваемости студентов

Новое исследование показало, что алгоритмы прогнозирования успеваемости студентов, используемые колледжами и университетами, могут иметь расовую предвзятость в отношении чернокожих и латиноамериканских учащихся.

Ученые обнаружили, что эти модели чаще ошибочно предсказывают неудачу для чернокожих и латиноамериканских студентов – в 19% и 21% случаев соответственно. Для белых и азиатских студентов этот показатель составляет 12% и 6%. При этом алгоритмы неверно прогнозируют успех для белых и азиатских учащихся в 65% и 73% случаев, а для чернокожих и латиноамериканцев – только в 33% и 28%.

Исследование проводилось на основе данных о 15 244 студентах за 10 лет. Авторы отмечают, что ни один метод снижения предвзятости полностью не устраняет различия в точности прогнозов для разных групп.

Эксперты подчеркивают важность понимания исторической дискриминации, отраженной в данных, и необходимость не наказывать группы, подвергавшиеся расовым социальным ущемлениям. Они рекомендуют обучать пользователей алгоритмов возможной предвзятости и контекстуализировать прогнозы для отдельных студентов.

Исследователи предупреждают, что предвзятые модели могут привести к отказу в приеме в колледж представителям меньшинств или направлению их на менее сложные специальности. С другой стороны, это может привести к большей поддержке студентов из неблагополучных групп.

Источник: phys.org

Science XXI