Перейдем к общим выводам. Они достаточно просты и касаются не только алгоритмов. Стратегии снижения шума могут быть затратны – это правда. И все же во многих случаях цена – лишь отговорка; у нас нет достаточных оснований мириться с несправедливостью и влиянием шума. Разумеется, меры, принимаемые для снижения шума, могут привносить новые ошибки, в основном в форме смещения. В таком случае мы получаем серьезную проблему, однако ее решение – не отказ от стратегий снижения шума, а поиск новых и лучших стратегий.
К разговору о цене снижения шума
«Пытаясь устранить шум в системе образования, мы вынуждены нести существенные затраты. В отметках, которые выставляют учителя, много шума. И все же мы не в состоянии позволить себе дать поручение пяти учителям проверять одну и ту же работу».
«Не доверяя суждению человека, социальные сети устанавливают запрет на определенную лексику вне зависимости от контекста. Шум устраняется, однако возникает множество ошибок. В данном случае лекарство может оказаться опаснее, чем сама болезнь».
«Да, и правила, и алгоритмы могут отличаться предвзятостью. Однако предубеждений хватает и у людей. Вопрос в том, способны ли мы изобрести бесшумный алгоритм, со-
держащий при этом меньше предубеждений?» «Подавление шума – процедура недешевая, однако затра-
ты часто себя оправдывают. Шум может привести к жуткой несправедливости. Однако, если одна попытка оказалась слишком примитивной – мы утвердили неоправданно жесткие инструкции или правила, тем самым вызвав смещение, – сдаваться нельзя. Нужно предпринять еще одну попытку».
Рекомендовано к покупке и изучению сайтом МедУнивер - https://meduniver.com/
Глава 27 Достоинство
Представьте, что вам отказали в ипотечном кредите – и не потому что эксперты досконально изучили вашу ситуацию. Просто у банка твердое правило: человек с таким кредитным рейтингом, как у вас, получить ипотеку не может. Или ваша квалификация произвела сильнейшее впечатление на собеседовании, и все же вас не взяли на работу, поскольку пятнадцать лет назад вы были осуждены за незаконный оборот наркотиков. Просто у фирмы жесткий запрет на найм сотрудников, ранее осужденных за преступление. Предположим, вас обвинили в правонарушении и не освободили под залог, однако это произошло не в результате собеседования
ссудьей; просто-напросто алгоритм сделал вывод, что люди
свашими характеристиками определенно склонны к побегу.
Вподобных случаях любой из нас возмутится, потребует индивидуального подхода, захочет, чтобы его обстоятельства рассмотрел живой человек. Возможно, невинно пострадавший не знает, что индивидуальный подход сопряжен с шумом. Что ж, если такова цена человеческого участия – так тому и быть, будет настаивать он. Он пожалуется, перефразировав сентенцию Верховного суда, что с ним обращаются «не как с уникальной личностью, а как с элементом безликой аморфной массы, подлежащим слепому отправлению право-
судия».
Многие добиваются индивидуального слушания их дела, желают, чтобы на судью не давил свод правил, требуют достойного обращения и надлежащего уважения. Идея справедливого правосудия, которое не отрицало бы основ привычной нам жизни, предполагает возможность непосредственного взаимодействия обвиняемого и человека, имеющего право на усмотрение, который оценит всю совокупность факторов.
Во многих культурах аргумент за индивидуальное суждение по каждому конкретному случаю имеет глубокую нравственную подоплеку. Подобные доводы звучат и в политике, и в юриспруденции, и в теологии, и даже в литературе. В «Венецианском купце» Шекспира несложно усмотреть протест против правил, очищенных от шума, мольбу о милосердии в юстиции – и вообще в любом человеческом суждении. Об этом и говорят нам доводы Порции:
По принужденью милость Не действует, а падает она,
Как тихий дождь, струящийся на землю Из облаков. Благословенье в ней Сугубое: она благословляет Тех, кто дает и кто берет ее.
(…)
В сердцах царей владычествует милость, Как атрибут Всевышнего, – и та
Рекомендовано к покупке и изучению сайтом МедУнивер - https://meduniver.com/
Земная власть всех ближе к власти Бога, Которая и правый суд творит, И милует13.
Милосердие не связано правилами и потому подвержено шуму. Так или иначе, мольба Порции могла бы прозвучать во многих ситуациях, в кабинетах бесчисленных организаций и получить должный резонанс. Те же самые слова произнесет и специалист, желающий карьерного роста, и потенциальный домовладелец, обращающийся за ссудой, и студент, поступающий в университет. Судьи, принимающие решения в подобных случаях, могли бы отказаться от стратегии снижения шума и навязанных свыше правил. Если они этого не делают – видимо, подобно Порции, считают, что «по принужденью милость не действует». Они наверняка знают, что особый подход привносит шум. Однако если индивидуальное обращение заставит человека почувствовать, что к нему проявляют уважение, прислушиваются – то, возможно, наш судья и склонится к нарушению правил?
К некоторым стратегиям снижения шума подобные претензии отношения не имеют. Если решение выносят коллегиально три человека, а не один судья – это и есть индивидуальный подход. Методические указания тоже порой дают судье некоторую степень свободы. Однако некоторые попытки снизить шум (например, жесткие правила) убивают свободу
13 Перевод П. Вейнберга.
мнения. В результате мы получаем протесты людей, считающих, что подобные правила унижают их чувство собственного достоинства.
Правы ли эти люди? Разумеется, мы ценим, когда собеседник готов нас выслушать. Человек имеет возможность донести свои мысли до собеседника, и в этой его способности заключается величайшее достоинство человеческой природы. А что если индивидуальный подход в суде приведет к увеличению количества смертных казней, несправедливости и вообще достанется дорогой ценой – следует ли тогда его приветствовать? Мы подчеркивали, что в ситуациях, подобных найму на работу, поступлению в университет, в медицине некоторые стратегии снижения шума могут оказаться слишком примитивными. Под запретом в таком случае окажутся любые формы индивидуального подхода, хотя те, создавая больше шума, все же повлекут меньшее количество ошибок. В подобных ситуациях лучшей реакцией станет выбор иной, более качественной стратегии, настроенной на широкий диапазон значимых переменных, к чему мы и призываем. И если новый механизм устранит шум и снизит количество ошибок – его явное преимущество перед индивидуальным подходом налицо, даже если новая стратегия не позволит вам прислушаться к каждому человеку (или снизит такую возможность).
Мы не говорим, что стремиться к индивидуальному подходу бессмысленно. Однако если вы столкнетесь на этом пу-
Рекомендовано к покупке и изучению сайтом МедУнивер - https://meduniver.com/