Исследователи Массачусетского технологического института пришли к выводу, что использование одного и того же алгоритма для принятия решений не всегда приводит к негативным последствиям. Учёные проверили основные возражения против алгоритмической монокультуры и установили, что многие из них не подтверждаются либо не позволяют сделать однозначный вывод. Результаты работы опубликованы в журнале Philosophical Perspectives.
Алгоритмической монокультурой называют ситуацию, при которой решения в определённой сфере принимаются с помощью одного алгоритма. Такой подход уже используется, например, при оценке заёмщиков: банки ориентируются на стандартизированные кредитные баллы, рассчитанные по алгоритму корпорации Fair Isaac Corporation (FICO). Похожие системы отбора резюме применяют многие компании из списка Fortune 500.
Одним из главных опасений считается систематическое исключение людей из возможностей. В сфере найма это означало бы, что кандидат, отклонённый алгоритмом одной компании, с высокой вероятностью получит отказ и в других организациях. Однако модели, изученные авторами, показали: применение одинакового алгоритма не уменьшает общее число нанятых людей, а конкуренция компаний за один и тот же круг соискателей может даже повысить их зарплаты.
Учёные также рассмотрели вопрос влияния такой системы на поведение кандидатов. Если соискатель может исправить резюме и подать его повторно, аргумент о невозможности адаптироваться к требованиям алгоритма теряет силу. При этом единый механизм действительно может облегчить попытки подстроить документы под нужный формат, но исследователи не нашли оснований считать, что при одном алгоритме это происходит чаще, чем при использовании нескольких разных систем.
Наиболее серьёзным недостатком монокультуры авторы назвали сокращение разнообразия информации. Разные алгоритмы могут находить разных кандидатов, тогда как единая система способна постоянно выбирать людей с одинаковыми характеристиками и тем самым упускать более подходящие варианты. По словам соавтора исследования Маниша Рагхавана, это особенно важно учитывать при создании систем искусственного интеллекта для науки, искусства и написания текстов.
Математические расчёты показали, что ограничение можно частично преодолеть за счёт случайности или объединения нескольких систем в единый ансамблевый алгоритм. В таком случае итоговая оценка кандидата формируется на основе средних результатов разных алгоритмов, и в отдельных сценариях ансамбль способен превзойти раздельное использование систем. Соавтор работы Брайан Хедден отметил, что последствия алгоритмической монокультуры зависят от конкретной области и точности алгоритма, а практическая реализуемость подобных объединений требует дальнейшего изучения.