Бесконечное вступление (вопросы этики)
Есть один пост, который я тупо хочу написать.
Но там было вступление, которое мне писать не очень хочется. Но без него тоже как-то нехорошо.
Если вкратце, вступление должно было быть про то, что мне нравятся этические системы Лефевра и этические системы Крылова. Помимо всего прочего, нравятся потому, что они очень упрощают разговор об этике. Скажем так, я иногда вижу в ЖЖ людей, которые пытаются рассуждать о подобных вопросах, не имея о них ни малейшего представления. Один из них как-то сказал, что "чтобы говорить об этике, надо сначала дать определение Добра и Зла". Вот величие Крылова и Лефевра в том, что они показали, что на самом деле это не так.)
И я искал аналоги подобного в англо-американской культуре, но не нашёл. Хотя обычно это несложно - у нас соционика, у них Myers-Briggs, у нас Фельдман с его ТУАИ ( теория уровней абстрактного интеллекта), у них Spiral Dynamics. Что касается этических систем, то самым близким мне показались уровни морального развития Колберга (которые по Крылову будут примерно соответствовать последовательности Юг-Восток-Запад), но это, всё-таки, не совсем то.
С моей точке зрения это выглядит так, будто на западе людей больше интересует сама типология этических рассуждений и возможных оценок поступков, а у нас - конкретный механизм функционирования подобных вещей.
Иначе говоря, там будут рассуждать, что вот есть этика ценностей (деонтологическая этика), где главное - это соблюдение правил, а есть этика последствий (консеквенциализм), делающая упор на результат. Есть также этика добродетели (virtue ethics), где целью является воспитание нравственных качеств личности, а всё остальное подчинено этой задаче.
Существует, например, утилитаризм. Утилитаризм - это этика последствий, то есть разновидность консеквенциализма. Этичный поступок является этичным, если он приносит благо. Большее благо всегда лучше меньшего благо. Следовательно, достойная цель - это наибольшее благо для наибольшего числа людей. (Можно ли столкнуть толстяка на рельсы?) Но что есть благо? Подумали и решили, что благо есть отсутствие страданий, страдания живых существ есть зло. То есть, этичное поведение не должно вести к увеличению страданий, а в идеале должно уменьшать количество страданий. Тогда возникает вопрос, этично ли одновременно и безболезненно убить всех людей, раз это точно уменьшит количество страданий на Земле (мёртвые не мучаются)?
Очевидным образом, если алгоритм экспертной системы будет стремиться оптимизировать социум по небольшому числу параметров, то это автоматически приведёт к людоедству ("как сделать всех людей счастливыми? - расстрелять всех несчастных!").
Хорошо, сказал Paul Birch, давайте введём следующее правило. Расширение пространства решений - это хорошо, сужение - плохо. (В черновике статьи "Энтропия выбора", которую автор так никогда и не закончил, потому что умер.) Если этичное поведение всегда сводится к выбору между возможными вариантами, то выбор и должен стать основой этики, свобода - это когда есть выбор.
"Что есть выбор? Выбор - это информация: а количество информации соответствует его энтропии. Каждый выбор - это число: и энтропия выбора определяется длинной этого числа, то есть количеством битов, необходимых для его записи.
Универсальный моральный принцип звучит просто: "Максимизируй энтропию выбора". (...)
Свободный выбор весит больше, чем вынужденный; и маловероятные действия более значительны, чем вероятные. (...)
Нужно отличать микроальтернативы от макроальтернатив... с точки зрения моральных агентов, микроальтернативы не отличаются друг от друга, их выбор ни на что не влияет. Представьте, что вам предложили блюдо, наполненное простым печеньем; степень выбора в каждом отдельном случае будет незначительной. Но если на блюде присутствует печенье нескольких видов, количество важных макроальтернатив будет равно числу имеющихся разновидностей.
Мы можем пойти дальше и добавить энтропию различения макроальтернатив, степень их расхождения в пространстве вероятностей. Представьте, что вам в ресторане предлагают выбрать вино; если, подобно мне, вы умеете отличать только красное от белого, энтропия в этом случае немногим превысит один бит. Но если вы ценитель вин, способный оценить все тонкие нюансы вкуса, энтропия соответствующим образом увеличится, даже если придётся выбирать из ограниченного числа образцов.
Последующие выборы тоже должны учитываться; в той степени, в какой они неизвестны, мы должны сложить все возможные исходы, взвесив их согласно их вероятности...
Итого: цена выбора непосредственно определяется степенью свободы выбора и знаниями, которые вложены в процедуру выбора. Опыт и переживания гения весят больше, чем мысли тупицы; в то же время, позиция тупицы ни в коем случае не должна игнорироваться. Полная энтропия выбора включает в себя все возможные решения всех моральных агентов на протяжении всего времени; и это и есть тот параметр, который необходимо максимизировать".
(Для тех, кто в этом разбирается, по ссылке есть формулы.)
Но даже после этого мы можем уйти на второй круг. Кто-нибудь скажет: ну ладно, учить человека разбираться в марочных винах - это благо, потому что тогда он сможет сделать более обоснованный выбор, его пространство решений увеличится. Но этот человек живёт в Мухосранске! Там нет хорошего вина! У него нет денег на хорошее вино! Знание о возможности выбора достоверно увеличит его неиллюзорные страдания. Это как взять ребёнка с Крайнего Севера и научить его любить фрукты и купаться в тёплом море, а затем вернуть обратно.
Как бы то ни было, можно сказать, что как утилитарно и рационально действующие моральные агенты, мы должны 1) бороться за уменьшение доли страданий, как минимум - за то, чтобы не увеличивать социальную энтропию; 2) бороться за расширение пространства решений, как минимум - не допускать уменьшения сложности (" коллапс = резкая утрата сложности").
Поэтому "убить всех людей" - не выход, так как это радикально сократит сложность системы и уменьшит количество значимых выборов на всё оставшееся время.
В общем, это уже что-то.
P.S. И поэтому светлое будущее Ефремова - неимоверно дурацкое, так как оно добивается уменьшения страданий за счёт уменьшения сложности. Во всём, включая язык: "Он не мог не удивляться тому, как многое из еще недавней культуры человечества уже отошло в небытие. Исчезли совсем столь характерные для Эры Мирового Воссоединения словесные тонкости - речевые и письменные ухищрения, считавшиеся некогда признаком большой образованности. Прекратилось совсем писание как музыка слов, столь развитое еще в ЭОТ - Эру Общего Труда, исчезло искусное жонглирование словами, так называемое остроумие. Еще раньше отпала надобность в маскировке своих мыслей, столь важная для ЭРМ. Все разговоры стали гораздо проще и короче" ("Туманность Андромеды").
Тут Ефремов чётко следует за Оруэллом:
"Новояз должен был не только обеспечить знаковыми средствами мировоззрение и мыслительную деятельность приверженцев ангсоца, но и сделать невозможными любые иные течения мысли. Предполагалось, что, когда новояз утвердится навеки, а старояз будет забыт, неортодоксальная, то есть чуждая ангсоцу, мысль, постольку поскольку она выражается в словах, станет буквально немыслимой. Лексика была сконструирована так, чтобы точно, а зачастую и весьма тонко выразить любое дозволенное значение, нужное члену партии, а кроме того, отсечь все остальные значения, равно как и возможности прийти к ним окольными путями. Это достигалось изобретением новых слов, но в основном исключением слов нежелательных и очищением оставшихся от неортодоксальных значений - по возможности от всех побочных значений... Благозвучие перевешивало все остальные соображения, кроме ясности смысла. Когда надо было, регулярность грамматики неизменно приносилась ему в жертву. И справедливо - ибо для политических целей прежде всего требовались четкие стриженые слова, которые имели ясный смысл, произносились быстро и рождали минимальное количество отзвуков в сознании слушателя".
Но там было вступление, которое мне писать не очень хочется. Но без него тоже как-то нехорошо.
Если вкратце, вступление должно было быть про то, что мне нравятся этические системы Лефевра и этические системы Крылова. Помимо всего прочего, нравятся потому, что они очень упрощают разговор об этике. Скажем так, я иногда вижу в ЖЖ людей, которые пытаются рассуждать о подобных вопросах, не имея о них ни малейшего представления. Один из них как-то сказал, что "чтобы говорить об этике, надо сначала дать определение Добра и Зла". Вот величие Крылова и Лефевра в том, что они показали, что на самом деле это не так.)
И я искал аналоги подобного в англо-американской культуре, но не нашёл. Хотя обычно это несложно - у нас соционика, у них Myers-Briggs, у нас Фельдман с его ТУАИ ( теория уровней абстрактного интеллекта), у них Spiral Dynamics. Что касается этических систем, то самым близким мне показались уровни морального развития Колберга (которые по Крылову будут примерно соответствовать последовательности Юг-Восток-Запад), но это, всё-таки, не совсем то.
С моей точке зрения это выглядит так, будто на западе людей больше интересует сама типология этических рассуждений и возможных оценок поступков, а у нас - конкретный механизм функционирования подобных вещей.
Иначе говоря, там будут рассуждать, что вот есть этика ценностей (деонтологическая этика), где главное - это соблюдение правил, а есть этика последствий (консеквенциализм), делающая упор на результат. Есть также этика добродетели (virtue ethics), где целью является воспитание нравственных качеств личности, а всё остальное подчинено этой задаче.
Существует, например, утилитаризм. Утилитаризм - это этика последствий, то есть разновидность консеквенциализма. Этичный поступок является этичным, если он приносит благо. Большее благо всегда лучше меньшего благо. Следовательно, достойная цель - это наибольшее благо для наибольшего числа людей. (Можно ли столкнуть толстяка на рельсы?) Но что есть благо? Подумали и решили, что благо есть отсутствие страданий, страдания живых существ есть зло. То есть, этичное поведение не должно вести к увеличению страданий, а в идеале должно уменьшать количество страданий. Тогда возникает вопрос, этично ли одновременно и безболезненно убить всех людей, раз это точно уменьшит количество страданий на Земле (мёртвые не мучаются)?
Очевидным образом, если алгоритм экспертной системы будет стремиться оптимизировать социум по небольшому числу параметров, то это автоматически приведёт к людоедству ("как сделать всех людей счастливыми? - расстрелять всех несчастных!").
Хорошо, сказал Paul Birch, давайте введём следующее правило. Расширение пространства решений - это хорошо, сужение - плохо. (В черновике статьи "Энтропия выбора", которую автор так никогда и не закончил, потому что умер.) Если этичное поведение всегда сводится к выбору между возможными вариантами, то выбор и должен стать основой этики, свобода - это когда есть выбор.
"Что есть выбор? Выбор - это информация: а количество информации соответствует его энтропии. Каждый выбор - это число: и энтропия выбора определяется длинной этого числа, то есть количеством битов, необходимых для его записи.
Универсальный моральный принцип звучит просто: "Максимизируй энтропию выбора". (...)
Свободный выбор весит больше, чем вынужденный; и маловероятные действия более значительны, чем вероятные. (...)
Нужно отличать микроальтернативы от макроальтернатив... с точки зрения моральных агентов, микроальтернативы не отличаются друг от друга, их выбор ни на что не влияет. Представьте, что вам предложили блюдо, наполненное простым печеньем; степень выбора в каждом отдельном случае будет незначительной. Но если на блюде присутствует печенье нескольких видов, количество важных макроальтернатив будет равно числу имеющихся разновидностей.
Мы можем пойти дальше и добавить энтропию различения макроальтернатив, степень их расхождения в пространстве вероятностей. Представьте, что вам в ресторане предлагают выбрать вино; если, подобно мне, вы умеете отличать только красное от белого, энтропия в этом случае немногим превысит один бит. Но если вы ценитель вин, способный оценить все тонкие нюансы вкуса, энтропия соответствующим образом увеличится, даже если придётся выбирать из ограниченного числа образцов.
Последующие выборы тоже должны учитываться; в той степени, в какой они неизвестны, мы должны сложить все возможные исходы, взвесив их согласно их вероятности...
Итого: цена выбора непосредственно определяется степенью свободы выбора и знаниями, которые вложены в процедуру выбора. Опыт и переживания гения весят больше, чем мысли тупицы; в то же время, позиция тупицы ни в коем случае не должна игнорироваться. Полная энтропия выбора включает в себя все возможные решения всех моральных агентов на протяжении всего времени; и это и есть тот параметр, который необходимо максимизировать".
(Для тех, кто в этом разбирается, по ссылке есть формулы.)
Но даже после этого мы можем уйти на второй круг. Кто-нибудь скажет: ну ладно, учить человека разбираться в марочных винах - это благо, потому что тогда он сможет сделать более обоснованный выбор, его пространство решений увеличится. Но этот человек живёт в Мухосранске! Там нет хорошего вина! У него нет денег на хорошее вино! Знание о возможности выбора достоверно увеличит его неиллюзорные страдания. Это как взять ребёнка с Крайнего Севера и научить его любить фрукты и купаться в тёплом море, а затем вернуть обратно.
Как бы то ни было, можно сказать, что как утилитарно и рационально действующие моральные агенты, мы должны 1) бороться за уменьшение доли страданий, как минимум - за то, чтобы не увеличивать социальную энтропию; 2) бороться за расширение пространства решений, как минимум - не допускать уменьшения сложности (" коллапс = резкая утрата сложности").
Поэтому "убить всех людей" - не выход, так как это радикально сократит сложность системы и уменьшит количество значимых выборов на всё оставшееся время.
В общем, это уже что-то.
P.S. И поэтому светлое будущее Ефремова - неимоверно дурацкое, так как оно добивается уменьшения страданий за счёт уменьшения сложности. Во всём, включая язык: "Он не мог не удивляться тому, как многое из еще недавней культуры человечества уже отошло в небытие. Исчезли совсем столь характерные для Эры Мирового Воссоединения словесные тонкости - речевые и письменные ухищрения, считавшиеся некогда признаком большой образованности. Прекратилось совсем писание как музыка слов, столь развитое еще в ЭОТ - Эру Общего Труда, исчезло искусное жонглирование словами, так называемое остроумие. Еще раньше отпала надобность в маскировке своих мыслей, столь важная для ЭРМ. Все разговоры стали гораздо проще и короче" ("Туманность Андромеды").
Тут Ефремов чётко следует за Оруэллом:
"Новояз должен был не только обеспечить знаковыми средствами мировоззрение и мыслительную деятельность приверженцев ангсоца, но и сделать невозможными любые иные течения мысли. Предполагалось, что, когда новояз утвердится навеки, а старояз будет забыт, неортодоксальная, то есть чуждая ангсоцу, мысль, постольку поскольку она выражается в словах, станет буквально немыслимой. Лексика была сконструирована так, чтобы точно, а зачастую и весьма тонко выразить любое дозволенное значение, нужное члену партии, а кроме того, отсечь все остальные значения, равно как и возможности прийти к ним окольными путями. Это достигалось изобретением новых слов, но в основном исключением слов нежелательных и очищением оставшихся от неортодоксальных значений - по возможности от всех побочных значений... Благозвучие перевешивало все остальные соображения, кроме ясности смысла. Когда надо было, регулярность грамматики неизменно приносилась ему в жертву. И справедливо - ибо для политических целей прежде всего требовались четкие стриженые слова, которые имели ясный смысл, произносились быстро и рождали минимальное количество отзвуков в сознании слушателя".