В работе, опубликованной в Philosophical Perspectives, Брайан Хедден и Маниш Рагхаван из MIT систематически оценили основные возражения против алгоритмической монокультуры — ситуации, когда все решения в отрасли принимает один и тот же алгоритм. На примере найма они пришли к выводу, что довод о систематическом исключении кандидатов несостоятелен: общее число нанятых не меняется, а фирмы, конкурируя за один и тот же круг кандидатов, могут даже повышать зарплаты. Возражения, связанные с агентностью, по их мнению, зависят от того, может ли кандидат доработать и повторно подать резюме. Схожим образом обстоит дело и со стимулами «играть с системой».
Главный риск, который исследователи доказывают математически, — информационные эхо-камеры, снижающие исследование вариантов. В найме это может уменьшить шансы, что лучшие кандидаты получат работу. Смягчить проблему, по их словам, способны случайность в системе и объединение нескольких алгоритмов в «ансамбль»: симуляции показали, что он иногда превосходит использование разных алгоритмов разными фирмами. Однако практическая осуществимость такого объединения пока не изучена.
Авторы подчёркивают, что оценка монокультуры зависит от области и точности алгоритма, а другие сферы, например генеративный ИИ или научные исследования с помощью ИИ, могут работать иначе. Они призывают к дальнейшим эмпирическим исследованиям долгосрочных последствий.



Пока нет комментариев.