Нечеловеческий выбор
Наша жизнь соткана из тысяч и тысяч решений. Простых и сложных. Мелких, сиюминутных - и крупных, влияющих на всю последующую жизнь. Незаметных, о которых мы почти не задумываемся - и тех, о которых мучительно размышляем на протяжении дней и месяцев.
Необходимость выбирать преследует нас повсюду. Проснувшись, мы решаем, что именно сегодня одеть и что именно есть на завтрак. По пути на работу - решаем, проскочить ли на мигающий зеленый и пропустить ли в свой ряд ту машину справа. На рабочем месте и во время отдыха, в семейном кругу и в окружении незнакомых людей - каждый шаг заставляет нас принимать очередное решение.
Взятые вместе, эти решения описывают все существующие общественные отношения. Те, что касаются денег и оборота ресурсов, называются экономикой. Решения по управлению обществом - политикой. Наши предпочтения в области идей, искусства и взглядов на мир формируют культуру. Решения, нарушающие самые важные правила общества, называются преступностью. И так далее.
Мы настолько привыкли к такому порядку вещей, что воспринимаем его как что-то само собой разумеющееся. Общественные науки подтверждают наши интуитивные ощущения: действительно, в большинстве признанных теорий свобода воли и выбор являются фундаментальными положениями. Так, «элементарная частица» в экономике - это экономический агент; субъект, который может делать рациональный выбор. «Элементарная частица» политики - гражданин, то есть буквально тот, кто действует сообразно своим гражданским правам.
Однако не все решения, которые составляют жизнь каждого человека, принимаются им самим.
Сколько рекламных роликов, и каких именно, ты посмотришь перед очередным ютьюб-видео? Сколько часов в неделю тебе положено работать, и в каком возрасте тебе начнут платить трудовую пенсию? Спектр чужих решений, которым мы следуем, не менее широк, чем спектр наших собственных: от простых и незначительных до фундаментальных и глобальных, затрагивающих судьбу сразу сотен миллионов человек.
Такие «внешние» решения составляют, пожалуй, даже более важную часть общественных отношений, чем наш личный выбор. И все же, отдать право решать кому-то (или чему-то) другому - это тоже решение. И мы выбираем его гораздо чаще, чем следует из постулатов господствующих теорий.
Делегирование решений возникло раньше, чем возникло человеческое общество. Мы видим примеры такого поведения у многих социальных животных - например, пчел или слонов. Другими словами, полезность этого механизма прошла поверку самым суровым фильтром - естественным отбором.
Но человек - вершина эволюции - смог встроить этот полезный механизм в инструментарий социальной инженерии. Превратить его из механизма выживания в механизм совершенствования, механизм социального прогресса.
Сначала - задолго до появления концепций «прогресса» и «социальной инженерии» - это превращение шло медленно. Оно началось с примитивных организационных обычаев дописьменных культур, продолжилось в первых бюрократиях месопотамских деспотий и набрало силу в трудах древнегреческих философов о государственном устройстве.
Совершенствование невозможно без самопознания. Научный метод стал катализатором, благодаря которому этот механизм расцвел, детализировался и специализировался, обосновавшись в самых разных сферах человеческой жизни. Менеджмент, урбанистика, военное дело, машинная этика и множество других непохожих друг на друга дисциплин оттачивают делегирование решений в своих практических задачах. Кибернетика, теория систем, антропология и другие фундаментальные дисциплины изучают общие принципы работы этого механизма.
Нам пригодятся некоторые из фундаментальных находок. Так, нам известно, что «внешние», делегированные решения формируют долговременные связи внутри общества и создают внутреннюю иерархию, выстраивая более сложную, развитую и стабильную его структуру. Они сшивают его в единое целое. Проще говоря, они делают общество обществом, а не хаотичной разрозненной толпой.
Известна и причина эффективности делегирования решений. Она справедлива как для человеческого общества, так и для слонов с пчелами: несовершенство знаний в голове отдельно взятого субъекта. Как говорится, «выше головы не прыгнуть»: когнитивные способности субъекта ограничены, накопленный им опыт - это данность, которую никак нельзя произвольно улучшить под требуемую задачу. А выбор оптимального решения может быть очень трудной задачей.
Чем полнее и точнее информация о проблеме и чем выше способности субъекта по нахождению оптимального выбора - тем лучше будет результат. Поэтому (вспомним еще одну поговорку) одна голова хорошо, а две - лучше. Другими словами, если есть тот, кто может справиться с поиском решения гораздо лучше тебя - есть смысл воспользоваться его помощью. Тут, конечно, не стоит забывать про подводные камни вроде конфликта интересов, но давайте затронем эту тему позднее.
Делегирование решений является частным случаем человеческой специализации - важнейшего аспекта функционирования общества. Специализация, или разделение труда, стало универсальным ответом на ограниченность мозгов и опыта отдельно взятого индивида. И позволила нарастить сложность общества на многие порядки. Чем сложнее наше общество - тем более сложные решения требуются - тем больше нужда в делегировании таких решений.
Соответственно, мы сами выбираем одежду каждое утро, поскольку данная «проблема» довольно проста и вполне нам по силам. А вот то, в каком возрасте начнется получение трудовой пенсии - вопрос гораздо более серьезный, и решать его следует людям с соответствующей компетенцией. Что бы там ни мнили о себе обыватели.
Желание «элементарных частиц» общества взять инициативу в свои руки - скорее исключение, чем правило. В пенсионном примере выше оно продиктовано как раз конфликтом интересов, а не какой-то природной тягой к самостоятельным решениям. Дело в том, что принятие решений и сопряженный с ним анализ ситуации - это обременительный процесс, связанный с большими умственными затратами, стрессом и эмоциональными переживаниями. Поэтому мы стремимся избежать необходимости принимать решения там, где это возможно.
Степень испытываемой нагрузки тем больше, чем серьезнее последствия решения, чем больше неопределенности в исходе, и чем большее число других людей оно затрагивает. Так что совсем неудивительно, что именно такие решения были «вытолкнуты» вовне, делегированы тем или иным общественным институтам.
Таким образом, делегирование решений выгодно не только ростом их качества, не только усилением социальной системы (за счет роста её сложности) - но и избавлением её членов от утомительных мозговых упражнений. По сути, перед нами еще одно подтверждение того, что лень - двигатель прогресса.
Тысячи лет в погоне за эффективностью, подгоняемые ленью, люди искали удачные механизмы делегирования решений и конструкции социальных институтов, способные преодолеть конфликт интересов и выжать максимум из скромных интеллектуальных способностей отдельно взятого человека. Который по-прежнему оставался центром принятия решений, пускай эти решения могли управлять сколь угодно широким кругом лиц.
Пока в их распоряжении не появились машинные алгоритмы.
И центр принятия решений начал свой тектонический дрейф. От «вершины эволюции» - к бездушным строчкам кода.
В этой погоне за эффективностью алгоритмы смогли дать то, что на что человек был неспособен принципиально. Они вышли за предел, заданный «константой» человеческих когнитивных возможностей - предел по скорости получения входящей информации, ее сложности и допустимым способам представлений, объему и точности памяти, скорости и глубине обработки данных, легкости и точности копирования, строгости анализа и еще десяткам параметров.
Качество принимаемых решений зависит исключительно от информационных факторов. Вполне очевидно, что объекты информационного мира - алгоритмы - приспособлены для этой задачи гораздо лучше, чем «вершина (биологической) эволюции».
Дополнительным бонусом является беспристрастность. Да, сейчас полно публикаций, кричащих об опасности алгоритмических предубеждений. Игнорировать эту опасность нельзя. Но сама суть алгоритма подразумевает изначальную нейтральность (tabula rasa, “чистый лист“) и не запрещает создание беспристрастных алгоритмов.
Люди же… с ними всё намного хуже. О чём оголтелые критики алгоритмов пишут редко, и уж точно не в кричащих заголовках (потому что критики - тоже люди, и ждать от них беспристрастности не стоит). Дадим слово Паулю Бейкману:
«В доисторические времена, поскольку окружающая среда была враждебной, малая группа была ключевым элементом выживания. Взаимопомощь и сильное чувство общей идентичности были необходимостью.
[…]
В то же время на протяжении нашей эволюционной истории малая группа была уязвима перед обманщиками, «нахлебниками» и «чужаками». [...] Cоответственно, наряду с эмпатией и взаимопомощью внутри групп существовал страх перед чужаками. Этот страх проистекает из отсутствия общей идентичности и воспринимаемой угрозой самому существованию группы со стороны чужаков (конкуренция за семейных партнеров, труд, пищу, природные ресурсы, и открытая война)».
Иными словами, миллионы лет эволюция отбирала особей, стремящихся сбиться в небольшие, сплоченные группы, и откровенно враждебно настроенных ко всем, кто в эту группу не входит.
Можно вывести человечество из каменного века - но нельзя вывести каменный век из человечества. «Двойные стандарты», коррупция, кумовство, нетерпимость, бытовая агрессия, социальная сегрегация - всё это не столько результат плохого образования и порочных идеологий, сколько генетические особенности Homo sapiens. Его суть.
В общем, социальной инженерии не позавидуешь. Мало того, что ей достался не шибко богатый умом материал, так он еще и оказался совершенно не предназначен для строительства сколь-нибудь крупных систем. Весь социальный прогресс последних тысячелетий был достигнут не «благодаря», а «вопреки». Самыми удачными механизмами делегирования решений были те, что одерживали верх над человеческой природой, хитростью или угрозой силы.
Но наконец у социальной инженерии появляется альтернатива. Альтернатива, не обремененная эволюционным грузом потерявших актуальность побуждений. Альтернатива, не ограниченная скромными возможностями человеческого мозга. Альтернатива, представляющая собой «чистый лист». Tabula rasa. И это открывает перед социальной инженерией колоссальный потенциал создания новых механизмов. Колоссальный потенциал прогресса.
Пока, впрочем, прошло слишком мало времени, чтобы этот тектонический дрейф привёл к существенным результатам. В данный момент право выносить решения переходит к алгоритмам в областях, слабо связанных с социальной инженерией. Мы переложили на софт вещи, которые раньше решали самостоятельно. По какому маршруту добираться в нужное место? Из каких вещей выбирать подарок? С кем познакомиться для начала романтических отношений?
Всё это - очевидные иллюстрации нашего желания избежать лишнего напряжения при выборе, нашей лени. Хотя и лень, и выросшее качество решений точно так же благоприятствуют алгоритмизации более серьезных вопросов, затрагивающих устройство общества. Почему же смещение центра принятия решений от людей к машинам здесь практически незаметно?
Первая причина - вопросам общественного устройства, особенно формальным, всегда присуща огромная инерция. Эта инерция тоже досталась нам в наследство от далеких предков. Когда-то это был механизм защиты основ существования общества. Принцип «не стоит чинить то, что не сломано» прекрасно работает, когда «ремонтник» ничего не понимает в ремонтируемой системе.
Принцип этот оставался справедливым до изобретения концепций «прогресса», «социальной инженерии» и «научного метода». Сейчас же инерция является одним из главных врагов социального прогресса. Опасным врагом, умело использующим эволюционный багаж homo (мы склонны бояться нового и плохо знакомого) и конфликт интересов (консенсус элит всегда поддерживает статус кво) в свою пользу.
Вторая причина слабого проникновения алгоритмов в общественную жизнь тривиальна: создавать их очень непросто. Несмотря на все когнитивные ограничения людей, написание с чистого листа алгоритма, превосходящего их даже в самых простых вопросах, требует много труда, выдающейся экспертизы, большого объема и высокого качества накопленных данных о проблеме и интенсивного тестирования.
Что же до более сложных вопросов, то здесь мы упираемся в доступные нам сегодня методы обработки информации, методы проектирования кибернетических систем и глубину знаний об обществе. Перед социальной инженерией открыт колоссальный потенциал - но она только учится им пользоваться. Прогресс здесь сильно зависит от прогресса в других областях знаний. И первая причина, о которой мы упомянули - инерция - дополнительно осложняет дело.
В целом, перед разработчиками общественных алгоритмов стоит самая трудная задача из всех возможных. Поскольку объект инжиниринга - общество - является сложнейшей системой из всех существующих на Земле.
В ответ на эту сложность разработчики применят уже испытанный подход - специализацию. В этом подходе тоже очевидны преимущества алгоритмов перед людьми. Если не получается одолеть проблему целиком - стоит разбить её на отдельные подзадачи, по каким угодно принципам, вплоть до микроуровня. И поручить микро-задачи отдельным алгоритмам. Гибкость и глубина специализации смешанных человеко-машинных систем может на порядки превышать аналогичные свойства чисто человеческих структур.
Дополнительной проблемой сегодня является то, что самые мощные доступные нам алгоритмы - модели машинного обучения - являются «черными ящиками», непрозрачными системами, инжиниринг которых возможен только косвенными методами. Гарантировать абсолютную надежность их решений невозможно; это вероятностные модели. Непрозрачность уже сейчас порождает недоверие широкой публики и способна значительно усилить инерцию существующих общественных порядков.
Специализация задач способна помочь и в этом вопросе, внося элементы логики и структурированности в работу «черных ящиков» и уменьшая зависимость от одиночных непредсказуемых ошибок. Те же самые преимущества будет давать и построение интегрированных человеко-машинных систем, позволяющих взять преимущества от обоих составляющих.
Впрочем, синергия преимуществ не возникнет сама собой только от соединения человеческого и машинного вклада - но будет зависеть от тщательного дизайна институтов. Очевидно, что сложность получающейся системы принятия решений станет еще больше - рекурсивно повышая сложность задач социальной инженерии.
В конечном итоге, дрейф центра принятия решений - это не «восстание машин», а продолжающийся поиск более эффективных общественных институтов. Степень алгоритмизации общественных процессов будет определяться исключительно зрелостью соответствующих технологий и долей задач, где они уже способны превзойти человека.
Тут алгоритмизация ничем не отличается от продолжающегося дрейфа полномочий от персоны вовне, к человеческим институтам. Которое тоже нельзя описывать как «восстание бюрократии». И там, и там баланс смещается по мере совершенствования социальных технологий и роста эффективности одного из элементов. И этот смещающийся баланс отражается в изменении, эволюции социальных практик. Не обходя стороной ни одну из общественных сфер. И затрагивая, казалось бы, самые фундаментальные вещи.
Давайте на минутку отойдем от теории и посмотрим на два кейса. Они очень разные, но в обоих хорошо видна ключевая роль технологий в сдвигах внутри условного треугольника «персона - традиционные институты - алгоритмы».
Во-первых, робо-советники и робо-управляющие для розничных инвесторов. Довольно простые программы, указывающие далекому от финансовой сферы человеку, во что вкладывать деньги - или же сами размещающие их после нескольких уточняющих вопросов.
Несмотря на простоту, эти программы существенно перекроили ландшафт инвестиционной индустрии, завоевав немалую популярность. Алгоритм здесь взял на себя задачу, в которой человек откровенно некомпетентен - прямое подтверждение наших теоретических выкладок. Но ранее эта задача была делегирована «человеческим» институтам - финансовым советникам, инвестиционным управляющим и т. д. Оказалось, что алгоритм способен управляться со многими решениями ничуть не хуже этих институтов - а затрат требует намного меньше. Эффективность! Ровно то, что нам и требуется.
Продлим этот тренд в прекрасное кибернетическое далёко - и получим интересную картину. Дело в том, что инвестиционная сфера выполняет в нашем обществе ключевую роль: перераспределяет ресурсы в пользу эффективных и востребованных обществом компаний. Соответственно, алгоритмизация инвестиций важна не потому, что позволит заработать неквалифицированному инвестору больше дохода, а потому, что позволяет улучшить распределение ресурсов на нужные обществу цели, ускорить экономический рост и даже повысить неденежные показатели качества жизни.
Естественно, для решения таких амбициозных задач нужны гораздо более сложные алгоритмы, чем нынешние мобильные приложения для инвестиций. Но и потенциальный выигрыш для общества тоже очень высок. А что до дохода на вложения - он никуда не денется. Доход на вложения призван поощрять эффективные инвестиции - а с этим у нас всё будет в полном порядке.
Второй кейс - масштабный натиск на гражданские права под предлогом борьбы с терроризмом. Многочисленные программы американского Агентства национальной безопасности по слежке за собственными гражданами, европейские директивы по цензуре подозрительного контента как по поручению властей, так и по желанию самих онлайн-платформ, всё более громкие призывы к отмене сквозного шифрования пользовательской переписки в мессенджерах, и так далее - список можно продолжать очень долго.
Этот натиск стал неожиданным переломом в тренде на либерализацию западного общества, продолжавшемся с 1940-ых годов. Терроризм стал удачным предлогом, но вряд ли причиной. Эпоха террористических актов глобального масштаба началась за три десятка лет до этого, с Мюнхенской олимпиады.
Причины стоит искать в технологических изменениях. Масштабнейшая слежка за телефонным, интернет- и SMS-трафиком и местоположением мобильных телефонов была организована АНБ не потому, что это предотвратило террористический ущерб, а потому, что это стало возможным при имеющихся технологических инструментах и бюджетных ограничениях. Аналогично, цензура сообщений в социальных сетях получила такое широкое распространение потому, что стал возможным сплошной мониторинг сообщений, а удалить нежелательный контент можно одним кликом мышки.
Итак, право решать, останутся ли личные сообщения тайной двух людей, или же попадут гораздо более широкому кругу заинтересованных людей, теперь получили и (силовые) общественные институты. Право решать, являются ли сообщения террористическими, из компетенции уголовного суда переходит чиновникам и частным компаниям - значит, гораздо проще заглушить чей-то голос извне.
В баланс принятия решений всё активнее вмешиваются и алгоритмы. Мы мало знаем о программах АНБ, но логично предположить, что при таких объемах обработки данных использование специального программного обеспечения - абсолютная необходимость. Что касается Европы, то здесь использование программных фильтров для предварительной цензуры террористического контента планируется прописать на законодательном уровне. Другими словами, программный цензор будет решать в отношении каждого сообщения, можно ли его публиковать.
В приведенных примерах полномочия принятия решений смещаются от персоны в пользу институтов и алгоритмов. Но что удивительно - сами персоны в большинстве добровольно поддерживают этот трансфер. Относясь к потере приватности и программной цензуре примерно так же, как пользованию Гугл-картами для построения маршрутов.
Так, проведенный в 2016 в США опрос показал, что 49% считают, что страна слишком мало делает для антитеррористической защиты. И только 33% - что слишком подрывает гражданские свободы, защищаясь от терроризма. Аналогичный опрос 2019 года в Великобритании демонстрирует еще более сильный разрыв: 45% против 7%.
Возникает противоречие: с одной стороны, активисты говорят об эрозии гражданских свобод и фундаментальной опасности для демократии. С другой, демократическое большинство готово добровольно расстаться со своими свободами. И в списке их приоритетов безопасность находится выше демократических идеалов.
Противоречие обнажает концептуальную слабость демократии. Правозащитники апеллируют к той самой инерции институтов, по сути - к догмам. Эти догмы игнорируют не то что изменение технологического ландшафта, создающее новые возможности и новые угрозы - они игнорируют даже продолжающееся развитие самих демократических институтов. Революционная Франция 1789 года, времени принятия Декларации прав человека и гражданина, и Франция сегодняшняя - это два совершенно разных общества.
Безусловно, права и свободы, положенные в основу современной демократии, оказались очень удачными догмами. Их полезность и справедливость подтверждена несколькими веками общественного опыта десятков стран. Но эти положения были не «священными» и «неоспоримыми», как провозглашала Декларация прав, а одним из множества возможных наборов правил, регулирующих общественные отношения и обеспечивающих их гармоничность в имеющихся условиях.
Отсылки к священному статусу в 1789 г. делались и на визуальном уровне
Неплохая аналогия - законы механики Ньютона, хорошо описывающие действительность на определенных расстояниях и скоростях, но теряющие актуальность в остальных случаях. С той поправкой, что законы физики постоянны, и ньютоновская механика работала одинаково и 10 миллиардов лет назад, и сейчас. Общество же - постоянно эволюционирующая и изменяющаяся система. Когда-то внутригрупповая сплоченность с враждебностью к окружающему миру тоже были «священным» и «неоспоримым» правилом.
Беда демократии в том, что в управлении сложнейшей системой нельзя ограничиваться перечислением прав и запретов по принципу «мы за всё хорошее и против всего плохого». Необходимо моделировать системные эффекты для каждого отдельного положения, сравнивать альтернативные варианты, замечать негативные аспекты и вводить дополнительные механизмы для их нейтрализации. Необходимо учитывать связи между сотнями разных сфер, от инвестиций до борьбы с терроризмом.
Со времен Лафайета созрели альтернативы для многих столпов демократии: анализ вместо политических догм, непрерывный прогресс вместо институциональной стабильности, дифференциация и специализация вместо всеобщей универсальности. Но самая главная - альтернатива воле демократического большинства.
Когда-то демократическое волеизъявление стало одним из полезных механизмов делегирования решений, найденным в бесконечной погоне за эффективностью функционирования общества. С тех пор были изобретены десятки других социальных институтов, накоплен гигантский пласт знаний как о самом обществе, так и о его «элементарной частице»-человеке, разработаны методы проектирования сложных систем и созданы средства для обработки колоссальных объемов данных.
Параллельно развивались техники манипуляции общественным мнением (сейчас стыдливо называемые «политтехнологиями»). Рос общий уровень информационного шума. Коммерциализировались средства массовой информации. И вместе с ростом сложности общества увеличивалась и сложность управления им.
А вот способности «элементарной частицы»-человека оставались константой. И в этих условиях вправе ли мы ожидать, что баланс принятия решений в треугольнике «персона-институты-алгоритмы» должен придавать всё то же значение волеизъявлению отдельных персон?
Мы долго полагались на это волеизъявление, поскольку это прекрасный способ организовать обратные связи (без которых невозможно построить работающую систему). Вероятнее всего, социальные инженеры будут еще долго использовать его и в дальнейшем. Но, как мы уже сказали, у них появляется альтернативный инструмент - мощный, универсальный и основанный на объективных данных.
Эта альтернатива позволяет качественно нарастить объем и сложность обратных связей. Но эта выросшая сложность не устранит проблему конфликта интересов. Конфликт интересов при делегировании решений возникает всегда. Более того, с ростом сложности системы решение этой проблемы тоже усложняется.
Сейчас алгоритмические системы принятия решений разрабатывают в первую очередь частные компании. Насколько их системы отражают интересы капитала, и насколько - интересы пользователей, делегирующих им решения? Еще более показательный пример - китайская Система социального кредита, где встречаются интересы граждан, государственных институтов, властолюбивых партийных функционеров и тех же корпораций.
Кто будет разрабатывать алгоритмы принятия решений? По каким принципам оценивается его адекватность и полезность? Мы уже задавали подобные вопросы, обсуждая и китайский случай, и программу «Фэйсбука» по оценке достоверности контента. Какими бы ни были конкретные ответы, процесс разработки обязательно должен обеспечивать консенсус интересов всех участвующих сторон.
И тут старое доброе личное волеизъявление - самый простой и надежный способ достижения консенсуса. То есть хорошие общественные алгоритмы без него не построишь - несмотря на все их описанные выше радикальные преимущества. Другими словами, алгоритмические системы будут опираться на достижения демократии. Но при этом придётся расстаться с «демократическими пережитками»: в частности, дифференцированные и специализированные варианты коллективного волеизъявления придут на смену устаревшим «всеобщим» форматам.
Сцена голосования при помощи камешков. Роспись на керамике, ок. 490 г. до н.э.Подобно тому, как Шарль де Монтескьё разработал систему баланса трёх ветвей власти - исполнительной, законодательной и судебной, социальным инженерам надо будет создавать механизмы балансировки интересов внутри треугольника «персона-институты-алгоритмы». Задача социальной инженерии более сложна, хотя бы потому, что этот баланс нужно поддерживать в динамической, непрерывно меняющейся системе. Но в то же время третий элемент - алгоритмы - даёт инженерам исключительную гибкость.
Социальная инженерия и ее самый перспективный инструмент, алгоритмизация, не столько противоречат демократическим идеалам, сколько предлагают более широкую систему координат. В которой многие демократические ценности по-прежнему имеют ключевое значение, а для других - меняется контекст.
Благосостояние индивида в первую очередь зависит от благосостояния общества. Беря на вооружение более совершенные механизмы развития общества, мы тем самым улучшаем благополучие отдельных персон.
Более того, уровень благосостояния индивида всегда хорошо коррелировал с развитостью гражданских свобод в обществе. Именно этот факт - а не вера в «священные» принципы - даёт нам большую уверенность в том, что личные права и свободы будут еще лучше защищены в обществе, совершенствующем себя с помощью алгоритмов.
История показывает, что дрейф центра принятия решений от индивидов вовне парадоксальным образом приводит к возросшим личным возможностям индивидов (английский термин - ”empowerment”). Парадокс может объясняться тем, что этот дрейф ограничивает деструктивные эффекты, а конструктивные решения, напротив, приобретают синергию. У нас нет ни малейшей причины сомневаться в том, что этот парадокс продолжит работать и при алгоритмизации общественных отношений.
Так что вряд ли стоит противопоставлять алгоритмы Лафайету, Монтескьё и Солону. Они находятся на одной стороне баррикад. На стороне прогресса.
Потому что на другой стороне - лысые обезьяны, норовящие сплотиться в небольшие группы и враждебные ко всем, кто туда не входит.
И Лафайет, и Монтескьё, и Солон были реформаторами. Знавшими, что нужно избавиться от старого для того, чтобы в жизнь вошли новые, лучшие практики. Сейчас нам нужны новые реформы.
Нужен новый теоретический фундамент, который основан не на статичности «священных и неотъемлемых прав и свобод», а на социальном прогрессе, непрерывном совершенствовании, движении вперед. Не на наивных представлениях, а на проактивности, эксперименте и объективных данных. Не на обособленных решениях «рационального индивида», а на системной динамике и системных эффектах.
Нам нужен теоретический фундамент, который наконец-то будет исходить из того, что целое больше, чем сумма его «элементарных частиц». И что каждое решение - не важно, кем или чем оно принято - изменяет это целое, влияя на все его части. Нам нужен синтез достижений самых разных дисциплин, от политики и экономики до кибернетики и менеджмента.
Но больше всего нам нужен фундамент, отдающий должную роль знанию. Центральную роль. Ибо только на таком фундаменте мы можем реализовать практический социальный прогресс.
Ведь главный вопрос - не в том, чтобы делегировать все решения от индивида вовне. И не в том, кому их делегировать - человеческим институтам или алгоритмам. И даже не в том, как именно должны быть устроены эти институты и алгоритмы.
Главный вопрос в том, что мы должны точно знать, что именно делегировать в наших же лучших интересах.
Делегированием решений должно руководить знание. А не лень, не инерция и не наивные идеалы.
Необходимость выбирать преследует нас повсюду. Тысячи и тысячи наших решений составляют все общественные отношения. И то, каким будет общество, зависит только от нас самих.
Мы можем по-прежнему оставаться лысыми обезьянами, подгоняемыми ленью и топчущими конкурентов из других групп, практически вслепую, вопреки всему, случайно открывающими новые блага прогресса.
А можем сделать прогресс целью, а знание - средством ее достижения.
Решение всегда за тобой.
Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]
...
2. Титаны эпохи
3. Их мир
4. Виртуальная свобода
5. "Если знаешь место боя..."
6. Декомпиляция Матрицы
7. Дочери офицеров против Исламского Халифата
8. Как "Искренний голос" стал еще искреннее
9. Уничтожая доверие
10. Силы финансового притяжения
11. "А зачем им деньги?.."
12. Свет на дне колодца
13. Кролики голосуют за Дарта Вейдера!
14. Объединяй и властвуй
15. Кто победит Катю Андрееву?
16. Высшая ценность
17. В погоне за устойчивостью
18. Вавилонская Башня 2.0
19. Размерность имеет значение!
20. Знание победит
21. Электронная Немезида
22. Обреченный быть константой
23. Инженерия человеческих душ
24. Логика прогресса
25. Бремя первых26. Фактор страха
27. Гипнотическая улыбка капитализма
28. Утро, XXI век
29. Баттлы по фактам в эпоху Веб 3.0
30. Плод раздора, плод надежды
31. Нечеловеческий выбор
32. Сколько в тебе правды?
33. Списки смерти
34. Terrorists Win!
Необходимость выбирать преследует нас повсюду. Проснувшись, мы решаем, что именно сегодня одеть и что именно есть на завтрак. По пути на работу - решаем, проскочить ли на мигающий зеленый и пропустить ли в свой ряд ту машину справа. На рабочем месте и во время отдыха, в семейном кругу и в окружении незнакомых людей - каждый шаг заставляет нас принимать очередное решение.
Взятые вместе, эти решения описывают все существующие общественные отношения. Те, что касаются денег и оборота ресурсов, называются экономикой. Решения по управлению обществом - политикой. Наши предпочтения в области идей, искусства и взглядов на мир формируют культуру. Решения, нарушающие самые важные правила общества, называются преступностью. И так далее.
Мы настолько привыкли к такому порядку вещей, что воспринимаем его как что-то само собой разумеющееся. Общественные науки подтверждают наши интуитивные ощущения: действительно, в большинстве признанных теорий свобода воли и выбор являются фундаментальными положениями. Так, «элементарная частица» в экономике - это экономический агент; субъект, который может делать рациональный выбор. «Элементарная частица» политики - гражданин, то есть буквально тот, кто действует сообразно своим гражданским правам.
Однако не все решения, которые составляют жизнь каждого человека, принимаются им самим.
Сколько рекламных роликов, и каких именно, ты посмотришь перед очередным ютьюб-видео? Сколько часов в неделю тебе положено работать, и в каком возрасте тебе начнут платить трудовую пенсию? Спектр чужих решений, которым мы следуем, не менее широк, чем спектр наших собственных: от простых и незначительных до фундаментальных и глобальных, затрагивающих судьбу сразу сотен миллионов человек.
Такие «внешние» решения составляют, пожалуй, даже более важную часть общественных отношений, чем наш личный выбор. И все же, отдать право решать кому-то (или чему-то) другому - это тоже решение. И мы выбираем его гораздо чаще, чем следует из постулатов господствующих теорий.
Делегирование решений возникло раньше, чем возникло человеческое общество. Мы видим примеры такого поведения у многих социальных животных - например, пчел или слонов. Другими словами, полезность этого механизма прошла поверку самым суровым фильтром - естественным отбором.
Но человек - вершина эволюции - смог встроить этот полезный механизм в инструментарий социальной инженерии. Превратить его из механизма выживания в механизм совершенствования, механизм социального прогресса.
Сначала - задолго до появления концепций «прогресса» и «социальной инженерии» - это превращение шло медленно. Оно началось с примитивных организационных обычаев дописьменных культур, продолжилось в первых бюрократиях месопотамских деспотий и набрало силу в трудах древнегреческих философов о государственном устройстве.
Совершенствование невозможно без самопознания. Научный метод стал катализатором, благодаря которому этот механизм расцвел, детализировался и специализировался, обосновавшись в самых разных сферах человеческой жизни. Менеджмент, урбанистика, военное дело, машинная этика и множество других непохожих друг на друга дисциплин оттачивают делегирование решений в своих практических задачах. Кибернетика, теория систем, антропология и другие фундаментальные дисциплины изучают общие принципы работы этого механизма.
Нам пригодятся некоторые из фундаментальных находок. Так, нам известно, что «внешние», делегированные решения формируют долговременные связи внутри общества и создают внутреннюю иерархию, выстраивая более сложную, развитую и стабильную его структуру. Они сшивают его в единое целое. Проще говоря, они делают общество обществом, а не хаотичной разрозненной толпой.
Известна и причина эффективности делегирования решений. Она справедлива как для человеческого общества, так и для слонов с пчелами: несовершенство знаний в голове отдельно взятого субъекта. Как говорится, «выше головы не прыгнуть»: когнитивные способности субъекта ограничены, накопленный им опыт - это данность, которую никак нельзя произвольно улучшить под требуемую задачу. А выбор оптимального решения может быть очень трудной задачей.
Чем полнее и точнее информация о проблеме и чем выше способности субъекта по нахождению оптимального выбора - тем лучше будет результат. Поэтому (вспомним еще одну поговорку) одна голова хорошо, а две - лучше. Другими словами, если есть тот, кто может справиться с поиском решения гораздо лучше тебя - есть смысл воспользоваться его помощью. Тут, конечно, не стоит забывать про подводные камни вроде конфликта интересов, но давайте затронем эту тему позднее.
Делегирование решений является частным случаем человеческой специализации - важнейшего аспекта функционирования общества. Специализация, или разделение труда, стало универсальным ответом на ограниченность мозгов и опыта отдельно взятого индивида. И позволила нарастить сложность общества на многие порядки. Чем сложнее наше общество - тем более сложные решения требуются - тем больше нужда в делегировании таких решений.
Соответственно, мы сами выбираем одежду каждое утро, поскольку данная «проблема» довольно проста и вполне нам по силам. А вот то, в каком возрасте начнется получение трудовой пенсии - вопрос гораздо более серьезный, и решать его следует людям с соответствующей компетенцией. Что бы там ни мнили о себе обыватели.
Желание «элементарных частиц» общества взять инициативу в свои руки - скорее исключение, чем правило. В пенсионном примере выше оно продиктовано как раз конфликтом интересов, а не какой-то природной тягой к самостоятельным решениям. Дело в том, что принятие решений и сопряженный с ним анализ ситуации - это обременительный процесс, связанный с большими умственными затратами, стрессом и эмоциональными переживаниями. Поэтому мы стремимся избежать необходимости принимать решения там, где это возможно.
Степень испытываемой нагрузки тем больше, чем серьезнее последствия решения, чем больше неопределенности в исходе, и чем большее число других людей оно затрагивает. Так что совсем неудивительно, что именно такие решения были «вытолкнуты» вовне, делегированы тем или иным общественным институтам.
Таким образом, делегирование решений выгодно не только ростом их качества, не только усилением социальной системы (за счет роста её сложности) - но и избавлением её членов от утомительных мозговых упражнений. По сути, перед нами еще одно подтверждение того, что лень - двигатель прогресса.
Тысячи лет в погоне за эффективностью, подгоняемые ленью, люди искали удачные механизмы делегирования решений и конструкции социальных институтов, способные преодолеть конфликт интересов и выжать максимум из скромных интеллектуальных способностей отдельно взятого человека. Который по-прежнему оставался центром принятия решений, пускай эти решения могли управлять сколь угодно широким кругом лиц.
Пока в их распоряжении не появились машинные алгоритмы.
И центр принятия решений начал свой тектонический дрейф. От «вершины эволюции» - к бездушным строчкам кода.
В этой погоне за эффективностью алгоритмы смогли дать то, что на что человек был неспособен принципиально. Они вышли за предел, заданный «константой» человеческих когнитивных возможностей - предел по скорости получения входящей информации, ее сложности и допустимым способам представлений, объему и точности памяти, скорости и глубине обработки данных, легкости и точности копирования, строгости анализа и еще десяткам параметров.
Качество принимаемых решений зависит исключительно от информационных факторов. Вполне очевидно, что объекты информационного мира - алгоритмы - приспособлены для этой задачи гораздо лучше, чем «вершина (биологической) эволюции».
Дополнительным бонусом является беспристрастность. Да, сейчас полно публикаций, кричащих об опасности алгоритмических предубеждений. Игнорировать эту опасность нельзя. Но сама суть алгоритма подразумевает изначальную нейтральность (tabula rasa, “чистый лист“) и не запрещает создание беспристрастных алгоритмов.
Люди же… с ними всё намного хуже. О чём оголтелые критики алгоритмов пишут редко, и уж точно не в кричащих заголовках (потому что критики - тоже люди, и ждать от них беспристрастности не стоит). Дадим слово Паулю Бейкману:
«В доисторические времена, поскольку окружающая среда была враждебной, малая группа была ключевым элементом выживания. Взаимопомощь и сильное чувство общей идентичности были необходимостью.
[…]
В то же время на протяжении нашей эволюционной истории малая группа была уязвима перед обманщиками, «нахлебниками» и «чужаками». [...] Cоответственно, наряду с эмпатией и взаимопомощью внутри групп существовал страх перед чужаками. Этот страх проистекает из отсутствия общей идентичности и воспринимаемой угрозой самому существованию группы со стороны чужаков (конкуренция за семейных партнеров, труд, пищу, природные ресурсы, и открытая война)».
Иными словами, миллионы лет эволюция отбирала особей, стремящихся сбиться в небольшие, сплоченные группы, и откровенно враждебно настроенных ко всем, кто в эту группу не входит.
Можно вывести человечество из каменного века - но нельзя вывести каменный век из человечества. «Двойные стандарты», коррупция, кумовство, нетерпимость, бытовая агрессия, социальная сегрегация - всё это не столько результат плохого образования и порочных идеологий, сколько генетические особенности Homo sapiens. Его суть.
В общем, социальной инженерии не позавидуешь. Мало того, что ей достался не шибко богатый умом материал, так он еще и оказался совершенно не предназначен для строительства сколь-нибудь крупных систем. Весь социальный прогресс последних тысячелетий был достигнут не «благодаря», а «вопреки». Самыми удачными механизмами делегирования решений были те, что одерживали верх над человеческой природой, хитростью или угрозой силы.
Но наконец у социальной инженерии появляется альтернатива. Альтернатива, не обремененная эволюционным грузом потерявших актуальность побуждений. Альтернатива, не ограниченная скромными возможностями человеческого мозга. Альтернатива, представляющая собой «чистый лист». Tabula rasa. И это открывает перед социальной инженерией колоссальный потенциал создания новых механизмов. Колоссальный потенциал прогресса.
Пока, впрочем, прошло слишком мало времени, чтобы этот тектонический дрейф привёл к существенным результатам. В данный момент право выносить решения переходит к алгоритмам в областях, слабо связанных с социальной инженерией. Мы переложили на софт вещи, которые раньше решали самостоятельно. По какому маршруту добираться в нужное место? Из каких вещей выбирать подарок? С кем познакомиться для начала романтических отношений?
Всё это - очевидные иллюстрации нашего желания избежать лишнего напряжения при выборе, нашей лени. Хотя и лень, и выросшее качество решений точно так же благоприятствуют алгоритмизации более серьезных вопросов, затрагивающих устройство общества. Почему же смещение центра принятия решений от людей к машинам здесь практически незаметно?
Первая причина - вопросам общественного устройства, особенно формальным, всегда присуща огромная инерция. Эта инерция тоже досталась нам в наследство от далеких предков. Когда-то это был механизм защиты основ существования общества. Принцип «не стоит чинить то, что не сломано» прекрасно работает, когда «ремонтник» ничего не понимает в ремонтируемой системе.
Принцип этот оставался справедливым до изобретения концепций «прогресса», «социальной инженерии» и «научного метода». Сейчас же инерция является одним из главных врагов социального прогресса. Опасным врагом, умело использующим эволюционный багаж homo (мы склонны бояться нового и плохо знакомого) и конфликт интересов (консенсус элит всегда поддерживает статус кво) в свою пользу.
Вторая причина слабого проникновения алгоритмов в общественную жизнь тривиальна: создавать их очень непросто. Несмотря на все когнитивные ограничения людей, написание с чистого листа алгоритма, превосходящего их даже в самых простых вопросах, требует много труда, выдающейся экспертизы, большого объема и высокого качества накопленных данных о проблеме и интенсивного тестирования.
Что же до более сложных вопросов, то здесь мы упираемся в доступные нам сегодня методы обработки информации, методы проектирования кибернетических систем и глубину знаний об обществе. Перед социальной инженерией открыт колоссальный потенциал - но она только учится им пользоваться. Прогресс здесь сильно зависит от прогресса в других областях знаний. И первая причина, о которой мы упомянули - инерция - дополнительно осложняет дело.
В целом, перед разработчиками общественных алгоритмов стоит самая трудная задача из всех возможных. Поскольку объект инжиниринга - общество - является сложнейшей системой из всех существующих на Земле.
В ответ на эту сложность разработчики применят уже испытанный подход - специализацию. В этом подходе тоже очевидны преимущества алгоритмов перед людьми. Если не получается одолеть проблему целиком - стоит разбить её на отдельные подзадачи, по каким угодно принципам, вплоть до микроуровня. И поручить микро-задачи отдельным алгоритмам. Гибкость и глубина специализации смешанных человеко-машинных систем может на порядки превышать аналогичные свойства чисто человеческих структур.
Дополнительной проблемой сегодня является то, что самые мощные доступные нам алгоритмы - модели машинного обучения - являются «черными ящиками», непрозрачными системами, инжиниринг которых возможен только косвенными методами. Гарантировать абсолютную надежность их решений невозможно; это вероятностные модели. Непрозрачность уже сейчас порождает недоверие широкой публики и способна значительно усилить инерцию существующих общественных порядков.
Специализация задач способна помочь и в этом вопросе, внося элементы логики и структурированности в работу «черных ящиков» и уменьшая зависимость от одиночных непредсказуемых ошибок. Те же самые преимущества будет давать и построение интегрированных человеко-машинных систем, позволяющих взять преимущества от обоих составляющих.
Впрочем, синергия преимуществ не возникнет сама собой только от соединения человеческого и машинного вклада - но будет зависеть от тщательного дизайна институтов. Очевидно, что сложность получающейся системы принятия решений станет еще больше - рекурсивно повышая сложность задач социальной инженерии.
В конечном итоге, дрейф центра принятия решений - это не «восстание машин», а продолжающийся поиск более эффективных общественных институтов. Степень алгоритмизации общественных процессов будет определяться исключительно зрелостью соответствующих технологий и долей задач, где они уже способны превзойти человека.
Тут алгоритмизация ничем не отличается от продолжающегося дрейфа полномочий от персоны вовне, к человеческим институтам. Которое тоже нельзя описывать как «восстание бюрократии». И там, и там баланс смещается по мере совершенствования социальных технологий и роста эффективности одного из элементов. И этот смещающийся баланс отражается в изменении, эволюции социальных практик. Не обходя стороной ни одну из общественных сфер. И затрагивая, казалось бы, самые фундаментальные вещи.
Давайте на минутку отойдем от теории и посмотрим на два кейса. Они очень разные, но в обоих хорошо видна ключевая роль технологий в сдвигах внутри условного треугольника «персона - традиционные институты - алгоритмы».
Во-первых, робо-советники и робо-управляющие для розничных инвесторов. Довольно простые программы, указывающие далекому от финансовой сферы человеку, во что вкладывать деньги - или же сами размещающие их после нескольких уточняющих вопросов.
Несмотря на простоту, эти программы существенно перекроили ландшафт инвестиционной индустрии, завоевав немалую популярность. Алгоритм здесь взял на себя задачу, в которой человек откровенно некомпетентен - прямое подтверждение наших теоретических выкладок. Но ранее эта задача была делегирована «человеческим» институтам - финансовым советникам, инвестиционным управляющим и т. д. Оказалось, что алгоритм способен управляться со многими решениями ничуть не хуже этих институтов - а затрат требует намного меньше. Эффективность! Ровно то, что нам и требуется.
Продлим этот тренд в прекрасное кибернетическое далёко - и получим интересную картину. Дело в том, что инвестиционная сфера выполняет в нашем обществе ключевую роль: перераспределяет ресурсы в пользу эффективных и востребованных обществом компаний. Соответственно, алгоритмизация инвестиций важна не потому, что позволит заработать неквалифицированному инвестору больше дохода, а потому, что позволяет улучшить распределение ресурсов на нужные обществу цели, ускорить экономический рост и даже повысить неденежные показатели качества жизни.
Естественно, для решения таких амбициозных задач нужны гораздо более сложные алгоритмы, чем нынешние мобильные приложения для инвестиций. Но и потенциальный выигрыш для общества тоже очень высок. А что до дохода на вложения - он никуда не денется. Доход на вложения призван поощрять эффективные инвестиции - а с этим у нас всё будет в полном порядке.
Второй кейс - масштабный натиск на гражданские права под предлогом борьбы с терроризмом. Многочисленные программы американского Агентства национальной безопасности по слежке за собственными гражданами, европейские директивы по цензуре подозрительного контента как по поручению властей, так и по желанию самих онлайн-платформ, всё более громкие призывы к отмене сквозного шифрования пользовательской переписки в мессенджерах, и так далее - список можно продолжать очень долго.
Этот натиск стал неожиданным переломом в тренде на либерализацию западного общества, продолжавшемся с 1940-ых годов. Терроризм стал удачным предлогом, но вряд ли причиной. Эпоха террористических актов глобального масштаба началась за три десятка лет до этого, с Мюнхенской олимпиады.
Причины стоит искать в технологических изменениях. Масштабнейшая слежка за телефонным, интернет- и SMS-трафиком и местоположением мобильных телефонов была организована АНБ не потому, что это предотвратило террористический ущерб, а потому, что это стало возможным при имеющихся технологических инструментах и бюджетных ограничениях. Аналогично, цензура сообщений в социальных сетях получила такое широкое распространение потому, что стал возможным сплошной мониторинг сообщений, а удалить нежелательный контент можно одним кликом мышки.
Итак, право решать, останутся ли личные сообщения тайной двух людей, или же попадут гораздо более широкому кругу заинтересованных людей, теперь получили и (силовые) общественные институты. Право решать, являются ли сообщения террористическими, из компетенции уголовного суда переходит чиновникам и частным компаниям - значит, гораздо проще заглушить чей-то голос извне.
В баланс принятия решений всё активнее вмешиваются и алгоритмы. Мы мало знаем о программах АНБ, но логично предположить, что при таких объемах обработки данных использование специального программного обеспечения - абсолютная необходимость. Что касается Европы, то здесь использование программных фильтров для предварительной цензуры террористического контента планируется прописать на законодательном уровне. Другими словами, программный цензор будет решать в отношении каждого сообщения, можно ли его публиковать.
В приведенных примерах полномочия принятия решений смещаются от персоны в пользу институтов и алгоритмов. Но что удивительно - сами персоны в большинстве добровольно поддерживают этот трансфер. Относясь к потере приватности и программной цензуре примерно так же, как пользованию Гугл-картами для построения маршрутов.
Так, проведенный в 2016 в США опрос показал, что 49% считают, что страна слишком мало делает для антитеррористической защиты. И только 33% - что слишком подрывает гражданские свободы, защищаясь от терроризма. Аналогичный опрос 2019 года в Великобритании демонстрирует еще более сильный разрыв: 45% против 7%.
Возникает противоречие: с одной стороны, активисты говорят об эрозии гражданских свобод и фундаментальной опасности для демократии. С другой, демократическое большинство готово добровольно расстаться со своими свободами. И в списке их приоритетов безопасность находится выше демократических идеалов.
Противоречие обнажает концептуальную слабость демократии. Правозащитники апеллируют к той самой инерции институтов, по сути - к догмам. Эти догмы игнорируют не то что изменение технологического ландшафта, создающее новые возможности и новые угрозы - они игнорируют даже продолжающееся развитие самих демократических институтов. Революционная Франция 1789 года, времени принятия Декларации прав человека и гражданина, и Франция сегодняшняя - это два совершенно разных общества.
Безусловно, права и свободы, положенные в основу современной демократии, оказались очень удачными догмами. Их полезность и справедливость подтверждена несколькими веками общественного опыта десятков стран. Но эти положения были не «священными» и «неоспоримыми», как провозглашала Декларация прав, а одним из множества возможных наборов правил, регулирующих общественные отношения и обеспечивающих их гармоничность в имеющихся условиях.
Отсылки к священному статусу в 1789 г. делались и на визуальном уровне
Неплохая аналогия - законы механики Ньютона, хорошо описывающие действительность на определенных расстояниях и скоростях, но теряющие актуальность в остальных случаях. С той поправкой, что законы физики постоянны, и ньютоновская механика работала одинаково и 10 миллиардов лет назад, и сейчас. Общество же - постоянно эволюционирующая и изменяющаяся система. Когда-то внутригрупповая сплоченность с враждебностью к окружающему миру тоже были «священным» и «неоспоримым» правилом.
Беда демократии в том, что в управлении сложнейшей системой нельзя ограничиваться перечислением прав и запретов по принципу «мы за всё хорошее и против всего плохого». Необходимо моделировать системные эффекты для каждого отдельного положения, сравнивать альтернативные варианты, замечать негативные аспекты и вводить дополнительные механизмы для их нейтрализации. Необходимо учитывать связи между сотнями разных сфер, от инвестиций до борьбы с терроризмом.
Со времен Лафайета созрели альтернативы для многих столпов демократии: анализ вместо политических догм, непрерывный прогресс вместо институциональной стабильности, дифференциация и специализация вместо всеобщей универсальности. Но самая главная - альтернатива воле демократического большинства.
Когда-то демократическое волеизъявление стало одним из полезных механизмов делегирования решений, найденным в бесконечной погоне за эффективностью функционирования общества. С тех пор были изобретены десятки других социальных институтов, накоплен гигантский пласт знаний как о самом обществе, так и о его «элементарной частице»-человеке, разработаны методы проектирования сложных систем и созданы средства для обработки колоссальных объемов данных.
Параллельно развивались техники манипуляции общественным мнением (сейчас стыдливо называемые «политтехнологиями»). Рос общий уровень информационного шума. Коммерциализировались средства массовой информации. И вместе с ростом сложности общества увеличивалась и сложность управления им.
А вот способности «элементарной частицы»-человека оставались константой. И в этих условиях вправе ли мы ожидать, что баланс принятия решений в треугольнике «персона-институты-алгоритмы» должен придавать всё то же значение волеизъявлению отдельных персон?
Мы долго полагались на это волеизъявление, поскольку это прекрасный способ организовать обратные связи (без которых невозможно построить работающую систему). Вероятнее всего, социальные инженеры будут еще долго использовать его и в дальнейшем. Но, как мы уже сказали, у них появляется альтернативный инструмент - мощный, универсальный и основанный на объективных данных.
Эта альтернатива позволяет качественно нарастить объем и сложность обратных связей. Но эта выросшая сложность не устранит проблему конфликта интересов. Конфликт интересов при делегировании решений возникает всегда. Более того, с ростом сложности системы решение этой проблемы тоже усложняется.
Сейчас алгоритмические системы принятия решений разрабатывают в первую очередь частные компании. Насколько их системы отражают интересы капитала, и насколько - интересы пользователей, делегирующих им решения? Еще более показательный пример - китайская Система социального кредита, где встречаются интересы граждан, государственных институтов, властолюбивых партийных функционеров и тех же корпораций.
Кто будет разрабатывать алгоритмы принятия решений? По каким принципам оценивается его адекватность и полезность? Мы уже задавали подобные вопросы, обсуждая и китайский случай, и программу «Фэйсбука» по оценке достоверности контента. Какими бы ни были конкретные ответы, процесс разработки обязательно должен обеспечивать консенсус интересов всех участвующих сторон.
И тут старое доброе личное волеизъявление - самый простой и надежный способ достижения консенсуса. То есть хорошие общественные алгоритмы без него не построишь - несмотря на все их описанные выше радикальные преимущества. Другими словами, алгоритмические системы будут опираться на достижения демократии. Но при этом придётся расстаться с «демократическими пережитками»: в частности, дифференцированные и специализированные варианты коллективного волеизъявления придут на смену устаревшим «всеобщим» форматам.
Сцена голосования при помощи камешков. Роспись на керамике, ок. 490 г. до н.э.Подобно тому, как Шарль де Монтескьё разработал систему баланса трёх ветвей власти - исполнительной, законодательной и судебной, социальным инженерам надо будет создавать механизмы балансировки интересов внутри треугольника «персона-институты-алгоритмы». Задача социальной инженерии более сложна, хотя бы потому, что этот баланс нужно поддерживать в динамической, непрерывно меняющейся системе. Но в то же время третий элемент - алгоритмы - даёт инженерам исключительную гибкость.
Социальная инженерия и ее самый перспективный инструмент, алгоритмизация, не столько противоречат демократическим идеалам, сколько предлагают более широкую систему координат. В которой многие демократические ценности по-прежнему имеют ключевое значение, а для других - меняется контекст.
Благосостояние индивида в первую очередь зависит от благосостояния общества. Беря на вооружение более совершенные механизмы развития общества, мы тем самым улучшаем благополучие отдельных персон.
Более того, уровень благосостояния индивида всегда хорошо коррелировал с развитостью гражданских свобод в обществе. Именно этот факт - а не вера в «священные» принципы - даёт нам большую уверенность в том, что личные права и свободы будут еще лучше защищены в обществе, совершенствующем себя с помощью алгоритмов.
История показывает, что дрейф центра принятия решений от индивидов вовне парадоксальным образом приводит к возросшим личным возможностям индивидов (английский термин - ”empowerment”). Парадокс может объясняться тем, что этот дрейф ограничивает деструктивные эффекты, а конструктивные решения, напротив, приобретают синергию. У нас нет ни малейшей причины сомневаться в том, что этот парадокс продолжит работать и при алгоритмизации общественных отношений.
Так что вряд ли стоит противопоставлять алгоритмы Лафайету, Монтескьё и Солону. Они находятся на одной стороне баррикад. На стороне прогресса.
Потому что на другой стороне - лысые обезьяны, норовящие сплотиться в небольшие группы и враждебные ко всем, кто туда не входит.
И Лафайет, и Монтескьё, и Солон были реформаторами. Знавшими, что нужно избавиться от старого для того, чтобы в жизнь вошли новые, лучшие практики. Сейчас нам нужны новые реформы.
Нужен новый теоретический фундамент, который основан не на статичности «священных и неотъемлемых прав и свобод», а на социальном прогрессе, непрерывном совершенствовании, движении вперед. Не на наивных представлениях, а на проактивности, эксперименте и объективных данных. Не на обособленных решениях «рационального индивида», а на системной динамике и системных эффектах.
Нам нужен теоретический фундамент, который наконец-то будет исходить из того, что целое больше, чем сумма его «элементарных частиц». И что каждое решение - не важно, кем или чем оно принято - изменяет это целое, влияя на все его части. Нам нужен синтез достижений самых разных дисциплин, от политики и экономики до кибернетики и менеджмента.
Но больше всего нам нужен фундамент, отдающий должную роль знанию. Центральную роль. Ибо только на таком фундаменте мы можем реализовать практический социальный прогресс.
Ведь главный вопрос - не в том, чтобы делегировать все решения от индивида вовне. И не в том, кому их делегировать - человеческим институтам или алгоритмам. И даже не в том, как именно должны быть устроены эти институты и алгоритмы.
Главный вопрос в том, что мы должны точно знать, что именно делегировать в наших же лучших интересах.
Делегированием решений должно руководить знание. А не лень, не инерция и не наивные идеалы.
Необходимость выбирать преследует нас повсюду. Тысячи и тысячи наших решений составляют все общественные отношения. И то, каким будет общество, зависит только от нас самих.
Мы можем по-прежнему оставаться лысыми обезьянами, подгоняемыми ленью и топчущими конкурентов из других групп, практически вслепую, вопреки всему, случайно открывающими новые блага прогресса.
А можем сделать прогресс целью, а знание - средством ее достижения.
Решение всегда за тобой.
Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]
...
2. Титаны эпохи
3. Их мир
4. Виртуальная свобода
5. "Если знаешь место боя..."
6. Декомпиляция Матрицы
7. Дочери офицеров против Исламского Халифата
8. Как "Искренний голос" стал еще искреннее
9. Уничтожая доверие
10. Силы финансового притяжения
11. "А зачем им деньги?.."
12. Свет на дне колодца
13. Кролики голосуют за Дарта Вейдера!
14. Объединяй и властвуй
15. Кто победит Катю Андрееву?
16. Высшая ценность
17. В погоне за устойчивостью
18. Вавилонская Башня 2.0
19. Размерность имеет значение!
20. Знание победит
21. Электронная Немезида
22. Обреченный быть константой
23. Инженерия человеческих душ
24. Логика прогресса
25. Бремя первых26. Фактор страха
27. Гипнотическая улыбка капитализма
28. Утро, XXI век
29. Баттлы по фактам в эпоху Веб 3.0
30. Плод раздора, плод надежды
31. Нечеловеческий выбор
32. Сколько в тебе правды?
33. Списки смерти
34. Terrorists Win!