Использование одного и того же алгоритма для принятия решений в целой отрасли не всегда приводит к негативным последствиям. К такому выводу пришли исследователи Массачусетского технологического института (MIT), изучив аргументы против алгоритмической монокультуры. Их работа опубликована в журнале Philosophical Perspectives.
Алгоритмической монокультурой называют ситуацию, при которой решения в определённой сфере принимаются с помощью одной системы. Подобный подход уже применяется в кредитовании: вместо независимых оценок банков используются стандартизированные кредитные баллы, рассчитанные по алгоритму Fair Isaac Corporation (FICO). Кроме того, несколько систем для анализа резюме распространены среди многих компаний из списка Fortune 500.
Одно из главных возражений связано с риском систематического исключения людей. Например, если алгоритм отклонит резюме кандидата в одной компании, тот же результат может повториться у других работодателей. Однако модели, рассмотренные учёными, показали, что общее число нанятых сотрудников от этого не меняется, а конкуренция компаний за один и тот же круг соискателей может даже усилить переговорные позиции кандидатов и повысить заработные платы.
Исследователи также проверили аргументы, связанные с возможностью кандидатов влиять на результат. Если человек не может изменить резюме после отказа, единый алгоритм действительно ограничивает его возможности. Но при разрешённой корректировке и повторной подаче документов это возражение теряет силу. Возможность подстраивать резюме под систему существует и при использовании разных алгоритмов, поскольку соискатель может ориентироваться на требования отдельных работодателей.
При этом MIT-исследователи математически подтвердили другой недостаток монокультуры: она создаёт информационные «эхо-камеры» и сокращает поиск нестандартных вариантов. В сфере найма это может привести к тому, что компании будут снова и снова выбирать кандидатов с одинаковыми характеристиками, упуская более подходящих специалистов. По словам профессора Брайана Хеддена, последствия зависят от конкретной области и точности алгоритма, поэтому заранее считать монокультуру однозначно вредной нельзя.
Ограничение можно частично компенсировать случайностью в работе единой системы или объединением нескольких алгоритмов в ансамбль, который рассчитывает итоговую оценку как среднее значение. Серия симуляций показала, что такой подход иногда превосходит использование разных алгоритмов отдельными компаниями. Соавтор исследования Маниш Рагхаван отметил, что дальнейшие выводы будут зависеть от конкретных условий, а практическая применимость ансамблей и долгосрочные последствия алгоритмической монокультуры требуют дополнительных исследований.