Дарио Амодеи: "Машины благодатной любви" (VI)
<< Часть I - III
<< Часть IV - V
VI. Власть и поддержание мира
Даже если мощный ИИ справится с болезнями, бедностью и неравенством, над человеком по-прежнему останется висеть самая опасная угроза. Дело в том, что самая опасная угроза для человека - это другой человек. Данная угроза вышла на первый план очень давно, как минимум 150 тысяч лет назад. И искусственному интеллекту нужно очень постараться, чтобы «откатить назад» столь фундаментальный эволюционный багаж.
Нельзя сказать, чтобы мы не пытались избавиться от этого обезьяньего наследия собственными силами, без привлечения ИИ. Пытались. Иногда даже успешно. К порогу, за которым начинается эра мощного ИИ, мы подошли с неплохим набором достижений социального прогресса, вроде демократии, нравственности и закрепленного в Уставе ООН отказа от решения споров военными средствами.
Но любовь, как известно, способна творить чудеса. Особенно если это благодатная любовь очень умных машин. Поэтому есть надежда, что эта любовь даст новый, очень мощный толчок социальному прогрессу.
Эта надежда есть даже у Амодеи. «Даже» - потому что начинает он свои рассуждения с минорных ноток:
“К сожалению, я не вижу веских оснований полагать, что ИИ будет преимущественно или структурно способствовать развитию демократии и мира, точно так же, как, по моему мнению, он будет способствовать укреплению здоровья людей и сокращению масштабов нищеты. Человеческие конфликты носят сопернический характер, и ИИ, в принципе, может помочь как “хорошим парням”, так и “плохим парням”. Если уж на то пошло, некоторые структурные факторы вызывают беспокойство: ИИ, похоже, может значительно улучшить пропаганду и слежку, которые являются основными инструментами в арсенале автократа. Поэтому от нас как от индивидуумов зависит, как изменить ситуацию в правильном направлении: если мы хотим, чтобы ИИ способствовал демократии и правам личности, нам придется бороться за этот результат. Я уверен в этом еще больше, чем в отношении международного неравенства: торжество либеральной демократии и политической стабильности не гарантировано, возможно, даже маловероятно, и потребует больших жертв и самоотдачи от всех нас, как это часто бывало в прошлом.”
Минорные нотки, как видим, быстро перерастают в призыв сжать кулаки, сплотиться под знаменами либеральной демократии и беспощадно бороться за эту политическую систему. Будущее зависит от тебя.
Но поскольку будущее зависит и от меня тоже, я бы предостерег читателя от слишком поспешного выбора знамён. Пока Дарио Амодеи рассуждал о физическом здоровье и ментальном благополучии, в его распоряжении были чёткие моральные ориентиры. Пока он говорил об экономическом росте и неравенстве, моральные ориентиры всё еще оставались вполне надежными, хоть и не были полностью безусловными. А вот вопросы политической власти… Тем более политической власти в условиях доминирования продвинутых алгоритмов… Здесь ориентиры, «что такое хорошо и что такое плохо», скрываются в тумане неопределенности, в тумане системной сложности… А где-то даже - в тумане войны. Ведь человек по-прежнему - даже в либеральной демократии, под знамена которой собирает сторонников Амодеи - является самой опасной угрозой для другого человека.
Поэтому в этой, политической, части мне больше всего хочется спорить с Амодеи. И не только спорить, но и пытаться угадать, как именно лучше добраться до смутно маячащих в тумане моральных ориентиров. Если от нас как от индивидуумов зависит, как изменить ситуацию в правильном направлении, и если в нашем распоряжении появляется такая интеллектуальная мощь машин - мы должны очень, очень тщательно разобраться, какое именно направление является правильным. Иначе есть риск забраться «куда-то не туда» очень далеко.
А начнем, пожалуй, с совпадающих позиций. В частности, давайте раскроем некоторые тезисы из приведенной выше цитаты Амодеи. Руководитель ”Anthropic” видит ИИ лишь инструментом. Средством, позволяющим достичь самые разнообразные политические цели.
Почему «структурные факторы» ИИ представляют собой угрозу для общества? По большому счету, дело здесь не столько в неких структурных особенностях конкретно технологии ИИ, сколько в общем уровне развития технологий. ИИ является лишь одним из элементов в инструментальном наборе, служащем ключевой цели: эксплуатации общественных отношений. И улучшение эффективности пропаганды, и массовая слежка являются примерами подобной эксплуатации.
Амодеи подверстывает эти примеры в арсенал автократий. Но те же технологии пропаганды, подающиеся под коммерческим соусом (т. е. реклама) и не претендующие на политические цели, полностью приветствуются либеральными демократиями. Более того, мы видим, что политические силы также берут на вооружение эти методы. Единственным отличием от автократий выглядит то, что доступ к таким инструментам пропаганды есть у нескольких политических игроков, при наличии у них соответствующих финансовых ресурсов.
Аналогично, капиталистический вариант слежки (surveillance capitalism) процветает в либеральных демократиях. Там же мы видим и симбиоз политических сил с коммерческими дата-харвестерами: первые покупают данные для максимально успешного таргетирования своих политических кампаний.
Разумеется, в обоих случаях степень эксплуатации членов социума ничуть не меньше, чем в случае автократии. Формально, либеральная демократия старается искоренить эксплуативные отношения. Но на практике, как мы уже говорили в IV части, политическая система не способна угнаться за новыми, технологичными механизмами эксплуатации. Они эволюционируют слишком быстро. А формализм и инертность, присущий и автократиям, и демократиям, позволяют делать вид, что проблемы не существует. Надежных механизмов контроля над соблюдением справедливости в таких отношениях нет ни во вторых, ни, разумеется, в первых.
К слову, автократии плохи не потому, что Амодеи обозвал их «плохими парнями». А потому, что формализм там мало ограничен обратными связями. Формально ни одна автократия не ставит своей целью обращаться с людьми как со скотом, удерживать начальственное кресло до поездки на лафете и набивать карманы казенными деньгами. Формально ничто не мешает автократу быть гением управления, экономики и социального благоденствия, показывая чудеса развития и роста. Но формализм не работает. Работают обратные связи.
Отложим на минутку экскурс в теорию и вернемся к эссе Дарио Амодеи. Свои «политические» тезисы он разбивает на два направления: международные отношения и внутренняя политика. Начнем с первых.
Главная задача будущей мировой политики, пишет Амодеи, состоит в том, чтобы демократии имели эксклюзивный доступ к мощному ИИ. А автократии, соответственно, никакого доступа не имели. Демократии, и только демократии должны распоряжаться плодами ИИ-прогресса - иначе им суждено пасть под натиском кровожадных авторитарных режимов, а мир погрузится в пучину страданий и нарушений прав человека.
Чтобы реализовать этот замысел, демократии должны сплотиться и сделать всё возможное, чтобы пали уже сами автократии: запретив им доступ к ключевым технологиям вроде микроэлектроники и создав с помощью ИИ безоговорочное военное преимущество. Благодатная любовь машин достанется только жителям демократических режимов - авторитарные страны могут довольствоваться, в худшем случае, лишь гневом машин войны. Цель такой стратегии - заставить авторитарные режимы перейти на Светлую сторону Силы: «перестать соперничать с демократиями, чтобы получить все преимущества и не бороться с более сильным противником».
В общем, демократия как конечная цель международной политики. Что ж, неплохо. Демократия так демократия. И если уж Амодеи провозглашает демократию в качестве ультимативной цели, давайте опять повернем к теории. И посмотрим, что из каких принципов состоит демократия. Вернее, из каких принципов она НЕ состоит.
Эксклюзивный, преференциальный доступ к тем или иным благам? Нет, это совсем не похоже на демократию. Демократии инклюзивны и основаны на равенстве прав.
Преференции и привилегии основаны на политической ориентации субъекта? Нет, тысячу раз нет. Это абсолютно антидемократично.
Ограничения, нацеленные на ослабление конкуренции? Тоже нет. Демократия поощряет конкуренцию между разными силами.
Запрет на экспорт продвинутых технологий? Ну да, колониализм как он есть. Не слишком демократично.
Диктат условий с позиций военной силы? Я думаю, вы уже всё поняли…
Глядя на всё это, возникает вопрос: Дарио, а ты точно зовешь нас под знамена демократии? Ты ничего со знаменами не перепутал? Может быть, всё-таки определимся: нам нужна демократия во всем мире или же нам нужно кибернетическое издание империализма, продвигаемое в наивно-утопической обёртке?
...Тут наиболее прогрессивные мои читатели могут окончательно потерять терпение и возразить:
«Джованни, ты в своём уме?! Кому ты собрался давать доступ к мощному ИИ? Этим?! Ты что, не видишь, что они из себя представляют? Да они же оккупировали Тибет! Они же расстреляли мирных демонстрантов на Тяньаньмэне! Они же отправляют уйгуров в лагеря и используют их принудительный труд! Они сажают неугодных журналистов!
Там всем заправляет азиатский холопский менталитет. Они на протяжении десятков поколений приучались жить в этой системе. По-другому они уже не умеют. К чему стадам дары свободы? Их нужно доминировать, властвовать и унижать - до тех пор, пока они смиренно не приползут на четвереньках и не начнут лизать американский сапог, как подобает всякому достойному представителю цивилизованного мира».
С описательной частью не поспоришь - действительно, оккупировали, расстреляли, отправляют и сажают. А вот с предложениями… всё не так просто. Поэтому давайте продолжим с теорией. Вообще, решения, основанные на эксклюзивности, привилегиях, двойных стандартах, доминировании и диктате - гораздо более естественны для людей, нежели решения, основанные на равенстве, инклюзивности и достижении компромисса. Это тот самый эволюционный багаж, который наши обезьяноподобные предки нарабатывали в условиях дарвинистского отбора.
Именно «естественность» этих антидемократических установок, их «близость к человеческим корням» и объясняет тот факт, что демократия до сих пор не отправила автократические режимы на свалку истории по всей планете. Распространенность авторитарных режимов - не некая случайность, «ошибка истории». И, конечно, не результат злых козней недружественных стран, которые пытаются уничтожить ростки демократии из-за своей природной ненависти к силам Света. Как это подспудно преподносит нарратив Амодеи. Нет, авторитаризм всего лишь ближе к обезьяньим законам, от которых современный человек отступает очень неохотно.
Проблема с этими обезьяньими принципами заключается в том, что они порождают неустойчивые исходы. Они порождают неудовлетворенность, обиду, соперничество и агрессию. В конечном итоге, они порождают конфликт. Демократия как общественно-политическая система стала попыткой сформировать новый, более устойчивый и менее чреватый конфликтами свод принципов. Именно этим она и хороша. То есть аксиому Амодеи «демократии должны победить» мы можем переформулировать как «должна победить система, дающая самые устойчивые исходы». Забегая вперед, она необязательно будет демократией.
Даёт ли стратегия, предлагаемая Амодеи, устойчивые исходы? Нет. Китай, превращенный в парию, Китай, лишенный доступа к критическим технологиям, не превратится в демократию. Китай будет унижен, его мотивация к кооперативному поведению ослабнет. Его антагонизм к блоку Светлых сил увеличится. Он начнет преследовать автономное развитие ИИ. См. пример Северной Кореи и «абсолютной технологии» прошлой эпохи - атомного оружия. При этом, оставляя за скобками инфраструктуру, технологический разрыв Китая и США в области собственно машинного обучения совсем невелик - сценарий «доминирования» пока не выглядит гарантированным.
Более реалистичен сценарий «гонки вооружений», в которой противоборствующие стороны руководствуются парадигмой игры с нулевой суммой, «или мы - или они», «победитель получает всё». Гонки, в которой все моральные ориентиры не просто уходят на второй план - но вовсе отбрасываются как мешающие достижению цели. Гонки, в которой та же участь ждет и вопросы безопасности ИИ (AI Safety). Учитывая беспрецедентный, экзистенциальный масштаб рисков, который несет эта технология - а также то, что внушительная часть ресурсов будет брошена на создание ИИ-вооружений - этот сценарий является одним из самых опасных вариантов будущего, которые только можно представить. Одним из самых неустойчивых.
Добавим, что пока международная изоляция не показала убедительной эффективности в деле конверсии автократий в демократии. Неочевидно, почему Амодеи вообще считает, что его стратегия даст такой результат.
И в целом каких-то «железно» работающих методов такой конверсии политическая социология пока предложить не может. Всё ограничивается некоторыми расплывчатыми зависимостями общего характера, которые нереально упаковать в некий экшен-план и положить на стол высокопоставленным политикам, обожающим простые решения.
А демократия - сложная система. Сложная система, опирающаяся на множество механизмов, преодолевающих «естественные» обезьяньи повадки в человеке и пытающаяся сфокусировать энергию этого стада человекообразных обезьян в конструктивное русло.
Демократия требует зрелости своих институтов. А эта зрелость достигается главным образом путем проб и ошибок, нарабатывания опыта. Но больше всего власть народа зависит от качества этого самого народа. Посмотрим на две наиболее четких зависимости, показывающих нам, как превратить автократию в демократию. Это, во-первых, уровень образования:
(на графике уровень образования посчитан как среднее количество лет обучения; если добавить качественные показатели, то зависимость стала бы еще четче)
… и, во-вторых, уровень достатка:
(зависимость немного размывается странами с высокой нефтяной рентой)
Разумеется, и в том, и в другом случае связь работает во все стороны: демократия способствует повышению благосостояния страны, рост благосостояния - росту уровню образования, и т. д. Но в целом эти зависимости довольно интуитивны и хорошо подчеркивают наш тезис: чем дальше человек отдаляется от обезьяны - тем лучше у него получается строить демократию.
Амодеи соглашается с этой линией мысли и даже приводит дополнительные аргументы: “В частности, я ожидаю, что улучшение психического здоровья, благосостояния и образования приведет к укреплению демократии, поскольку все три фактора отрицательно коррелируют с поддержкой авторитарных лидеров. В целом люди хотят больше самовыражаться, когда удовлетворяются их другие потребности, а демократия, помимо прочего, является формой самовыражения”.
Но если Амодеи согласен с этим взглядом, как теперь начинает выглядеть предлагаемая им стратегия? Откровенно вредительской. Международная изоляция и отказ в доступе к высоким технологиям будут означать торможение в экономическом развитии авторитарных стран. И сокращение спроса на высокообразованных специалистов. Здесь же мы упомянем внедряемые уже сейчас запреты на поступление китайских выпускников в западные вузы - один из ключевых каналов распространения демократических ценностей среди молодой китайской интеллигенции.
Своё непонимание фундаментальных социополитических процессов Амодеи обнажает фразой «Двадцать лет назад американские политики полагали, что свободная торговля с Китаем приведет к его либерализации по мере того, как он будет становиться богаче, но этого практически не произошло». Стало быть, делает вывод Амодеи, надо менять пряник на кнут. Я не представляю, как можно не видеть разницу между аграрным Китаем, в котором 70% населения - крестьяне, живущие на 2 чашки риса в день, и современным Китаем с внушительной прослойкой образованного городского среднего класса. Либерализация первого вряд ли возможна - а вот вторая страна уже представляет собой благодатную почву для развития демократии. Я уж не говорю о том, что 20 лет - короткий срок с точки зрения эволюции политических систем…
И здесь нам пора, наконец, вернуться к полемике с прогрессивными читателями. Давать ли Китаю дары мощного ИИ? Самой устойчивой стратегией продвижения демократии видится всё-таки не конфронтация, а рост благосостояния и уровня образования людей, живущих в автократических режимах. Чем быстрее они будут расти - тем быстрее такие режимы придут к демократии.
В V части мы уже говорили, что ИИ способен кратно поднять темпы экономического роста, особенно в странах «догоняющего развития». Для которых авторитарные режимы наиболее характерны. Один этот фактор уже благоволит усилению предпосылок для демократизации. Добавим сюда вал технологических революций, которые должна принести «планета гениев в дата-центре». Любая технологическая революция потенциально подрывает сложившиеся социально-политические отношения, буквально «раскачивает лодку». То есть снижает устойчивость правящего режима. Но для того, чтобы эти факторы в полной мере работали на политические изменения - ограничений на их внедрение в авторитарных странах должно быть как можно меньше. И меньше всего смысла вводить эти ограничения извне.
При этом стоит помнить, что доступ к продвинутому ИИ позволит авторитарным правительства завладеть инструментами, усиливающими эксплуатацию граждан и усугубляющими политическое неравенство.
Возможно ли дать блага мощного ИИ напрямую людям, но не правительствам, их угнетающим? Увы, шансы этой идеи выглядят сомнительными. Дело в том, что, как и для многих технологически и организационно сложных систем, работу ИИ будут направлять игроки, способные сконцентрировать наибольшее количество ресурсов. Правительства, особенно авторитарные, здесь изначально находятся в гораздо более выгодном положении, нежели рядовые граждане.
Одна из немногих найденных контрмер, противостоящих такой динамике - открытый доступ к технологии. В числе самых известных примеров можно назвать программное обеспечение с публичным исходным кодом, а также многие сферы науки. Открытый доступ пытается максимально снизить барьеры для использования технологии, создаваемые требованиями концентрации ресурсов. Поскольку системы ИИ являются программными, цифровыми продуктами, мы можем применить в их отношении лучшие практики развития свободного ПО. Разумеется, это не решает всех проблем справедливого использования ИИ - но это лучшее решение, которое я вижу сегодня.
Подытоживая, максимально свободное распространение ИИ-технологий выглядит гораздо более устойчивым сценарием демократизации планеты, нежели ограничения, технологическая гонка и неоколониальный диктат.
>> Продолжение: Часть VII >>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
<< Часть IV - V
VI. Власть и поддержание мира
Даже если мощный ИИ справится с болезнями, бедностью и неравенством, над человеком по-прежнему останется висеть самая опасная угроза. Дело в том, что самая опасная угроза для человека - это другой человек. Данная угроза вышла на первый план очень давно, как минимум 150 тысяч лет назад. И искусственному интеллекту нужно очень постараться, чтобы «откатить назад» столь фундаментальный эволюционный багаж.
Нельзя сказать, чтобы мы не пытались избавиться от этого обезьяньего наследия собственными силами, без привлечения ИИ. Пытались. Иногда даже успешно. К порогу, за которым начинается эра мощного ИИ, мы подошли с неплохим набором достижений социального прогресса, вроде демократии, нравственности и закрепленного в Уставе ООН отказа от решения споров военными средствами.
Но любовь, как известно, способна творить чудеса. Особенно если это благодатная любовь очень умных машин. Поэтому есть надежда, что эта любовь даст новый, очень мощный толчок социальному прогрессу.
Эта надежда есть даже у Амодеи. «Даже» - потому что начинает он свои рассуждения с минорных ноток:
“К сожалению, я не вижу веских оснований полагать, что ИИ будет преимущественно или структурно способствовать развитию демократии и мира, точно так же, как, по моему мнению, он будет способствовать укреплению здоровья людей и сокращению масштабов нищеты. Человеческие конфликты носят сопернический характер, и ИИ, в принципе, может помочь как “хорошим парням”, так и “плохим парням”. Если уж на то пошло, некоторые структурные факторы вызывают беспокойство: ИИ, похоже, может значительно улучшить пропаганду и слежку, которые являются основными инструментами в арсенале автократа. Поэтому от нас как от индивидуумов зависит, как изменить ситуацию в правильном направлении: если мы хотим, чтобы ИИ способствовал демократии и правам личности, нам придется бороться за этот результат. Я уверен в этом еще больше, чем в отношении международного неравенства: торжество либеральной демократии и политической стабильности не гарантировано, возможно, даже маловероятно, и потребует больших жертв и самоотдачи от всех нас, как это часто бывало в прошлом.”
Минорные нотки, как видим, быстро перерастают в призыв сжать кулаки, сплотиться под знаменами либеральной демократии и беспощадно бороться за эту политическую систему. Будущее зависит от тебя.
Но поскольку будущее зависит и от меня тоже, я бы предостерег читателя от слишком поспешного выбора знамён. Пока Дарио Амодеи рассуждал о физическом здоровье и ментальном благополучии, в его распоряжении были чёткие моральные ориентиры. Пока он говорил об экономическом росте и неравенстве, моральные ориентиры всё еще оставались вполне надежными, хоть и не были полностью безусловными. А вот вопросы политической власти… Тем более политической власти в условиях доминирования продвинутых алгоритмов… Здесь ориентиры, «что такое хорошо и что такое плохо», скрываются в тумане неопределенности, в тумане системной сложности… А где-то даже - в тумане войны. Ведь человек по-прежнему - даже в либеральной демократии, под знамена которой собирает сторонников Амодеи - является самой опасной угрозой для другого человека.
Поэтому в этой, политической, части мне больше всего хочется спорить с Амодеи. И не только спорить, но и пытаться угадать, как именно лучше добраться до смутно маячащих в тумане моральных ориентиров. Если от нас как от индивидуумов зависит, как изменить ситуацию в правильном направлении, и если в нашем распоряжении появляется такая интеллектуальная мощь машин - мы должны очень, очень тщательно разобраться, какое именно направление является правильным. Иначе есть риск забраться «куда-то не туда» очень далеко.
А начнем, пожалуй, с совпадающих позиций. В частности, давайте раскроем некоторые тезисы из приведенной выше цитаты Амодеи. Руководитель ”Anthropic” видит ИИ лишь инструментом. Средством, позволяющим достичь самые разнообразные политические цели.
Почему «структурные факторы» ИИ представляют собой угрозу для общества? По большому счету, дело здесь не столько в неких структурных особенностях конкретно технологии ИИ, сколько в общем уровне развития технологий. ИИ является лишь одним из элементов в инструментальном наборе, служащем ключевой цели: эксплуатации общественных отношений. И улучшение эффективности пропаганды, и массовая слежка являются примерами подобной эксплуатации.
Амодеи подверстывает эти примеры в арсенал автократий. Но те же технологии пропаганды, подающиеся под коммерческим соусом (т. е. реклама) и не претендующие на политические цели, полностью приветствуются либеральными демократиями. Более того, мы видим, что политические силы также берут на вооружение эти методы. Единственным отличием от автократий выглядит то, что доступ к таким инструментам пропаганды есть у нескольких политических игроков, при наличии у них соответствующих финансовых ресурсов.
Аналогично, капиталистический вариант слежки (surveillance capitalism) процветает в либеральных демократиях. Там же мы видим и симбиоз политических сил с коммерческими дата-харвестерами: первые покупают данные для максимально успешного таргетирования своих политических кампаний.
Разумеется, в обоих случаях степень эксплуатации членов социума ничуть не меньше, чем в случае автократии. Формально, либеральная демократия старается искоренить эксплуативные отношения. Но на практике, как мы уже говорили в IV части, политическая система не способна угнаться за новыми, технологичными механизмами эксплуатации. Они эволюционируют слишком быстро. А формализм и инертность, присущий и автократиям, и демократиям, позволяют делать вид, что проблемы не существует. Надежных механизмов контроля над соблюдением справедливости в таких отношениях нет ни во вторых, ни, разумеется, в первых.
К слову, автократии плохи не потому, что Амодеи обозвал их «плохими парнями». А потому, что формализм там мало ограничен обратными связями. Формально ни одна автократия не ставит своей целью обращаться с людьми как со скотом, удерживать начальственное кресло до поездки на лафете и набивать карманы казенными деньгами. Формально ничто не мешает автократу быть гением управления, экономики и социального благоденствия, показывая чудеса развития и роста. Но формализм не работает. Работают обратные связи.
Отложим на минутку экскурс в теорию и вернемся к эссе Дарио Амодеи. Свои «политические» тезисы он разбивает на два направления: международные отношения и внутренняя политика. Начнем с первых.
Главная задача будущей мировой политики, пишет Амодеи, состоит в том, чтобы демократии имели эксклюзивный доступ к мощному ИИ. А автократии, соответственно, никакого доступа не имели. Демократии, и только демократии должны распоряжаться плодами ИИ-прогресса - иначе им суждено пасть под натиском кровожадных авторитарных режимов, а мир погрузится в пучину страданий и нарушений прав человека.
Чтобы реализовать этот замысел, демократии должны сплотиться и сделать всё возможное, чтобы пали уже сами автократии: запретив им доступ к ключевым технологиям вроде микроэлектроники и создав с помощью ИИ безоговорочное военное преимущество. Благодатная любовь машин достанется только жителям демократических режимов - авторитарные страны могут довольствоваться, в худшем случае, лишь гневом машин войны. Цель такой стратегии - заставить авторитарные режимы перейти на Светлую сторону Силы: «перестать соперничать с демократиями, чтобы получить все преимущества и не бороться с более сильным противником».
В общем, демократия как конечная цель международной политики. Что ж, неплохо. Демократия так демократия. И если уж Амодеи провозглашает демократию в качестве ультимативной цели, давайте опять повернем к теории. И посмотрим, что из каких принципов состоит демократия. Вернее, из каких принципов она НЕ состоит.
Эксклюзивный, преференциальный доступ к тем или иным благам? Нет, это совсем не похоже на демократию. Демократии инклюзивны и основаны на равенстве прав.
Преференции и привилегии основаны на политической ориентации субъекта? Нет, тысячу раз нет. Это абсолютно антидемократично.
Ограничения, нацеленные на ослабление конкуренции? Тоже нет. Демократия поощряет конкуренцию между разными силами.
Запрет на экспорт продвинутых технологий? Ну да, колониализм как он есть. Не слишком демократично.
Диктат условий с позиций военной силы? Я думаю, вы уже всё поняли…
Глядя на всё это, возникает вопрос: Дарио, а ты точно зовешь нас под знамена демократии? Ты ничего со знаменами не перепутал? Может быть, всё-таки определимся: нам нужна демократия во всем мире или же нам нужно кибернетическое издание империализма, продвигаемое в наивно-утопической обёртке?
...Тут наиболее прогрессивные мои читатели могут окончательно потерять терпение и возразить:
«Джованни, ты в своём уме?! Кому ты собрался давать доступ к мощному ИИ? Этим?! Ты что, не видишь, что они из себя представляют? Да они же оккупировали Тибет! Они же расстреляли мирных демонстрантов на Тяньаньмэне! Они же отправляют уйгуров в лагеря и используют их принудительный труд! Они сажают неугодных журналистов!
Там всем заправляет азиатский холопский менталитет. Они на протяжении десятков поколений приучались жить в этой системе. По-другому они уже не умеют. К чему стадам дары свободы? Их нужно доминировать, властвовать и унижать - до тех пор, пока они смиренно не приползут на четвереньках и не начнут лизать американский сапог, как подобает всякому достойному представителю цивилизованного мира».
С описательной частью не поспоришь - действительно, оккупировали, расстреляли, отправляют и сажают. А вот с предложениями… всё не так просто. Поэтому давайте продолжим с теорией. Вообще, решения, основанные на эксклюзивности, привилегиях, двойных стандартах, доминировании и диктате - гораздо более естественны для людей, нежели решения, основанные на равенстве, инклюзивности и достижении компромисса. Это тот самый эволюционный багаж, который наши обезьяноподобные предки нарабатывали в условиях дарвинистского отбора.
Именно «естественность» этих антидемократических установок, их «близость к человеческим корням» и объясняет тот факт, что демократия до сих пор не отправила автократические режимы на свалку истории по всей планете. Распространенность авторитарных режимов - не некая случайность, «ошибка истории». И, конечно, не результат злых козней недружественных стран, которые пытаются уничтожить ростки демократии из-за своей природной ненависти к силам Света. Как это подспудно преподносит нарратив Амодеи. Нет, авторитаризм всего лишь ближе к обезьяньим законам, от которых современный человек отступает очень неохотно.
Проблема с этими обезьяньими принципами заключается в том, что они порождают неустойчивые исходы. Они порождают неудовлетворенность, обиду, соперничество и агрессию. В конечном итоге, они порождают конфликт. Демократия как общественно-политическая система стала попыткой сформировать новый, более устойчивый и менее чреватый конфликтами свод принципов. Именно этим она и хороша. То есть аксиому Амодеи «демократии должны победить» мы можем переформулировать как «должна победить система, дающая самые устойчивые исходы». Забегая вперед, она необязательно будет демократией.
Даёт ли стратегия, предлагаемая Амодеи, устойчивые исходы? Нет. Китай, превращенный в парию, Китай, лишенный доступа к критическим технологиям, не превратится в демократию. Китай будет унижен, его мотивация к кооперативному поведению ослабнет. Его антагонизм к блоку Светлых сил увеличится. Он начнет преследовать автономное развитие ИИ. См. пример Северной Кореи и «абсолютной технологии» прошлой эпохи - атомного оружия. При этом, оставляя за скобками инфраструктуру, технологический разрыв Китая и США в области собственно машинного обучения совсем невелик - сценарий «доминирования» пока не выглядит гарантированным.
Более реалистичен сценарий «гонки вооружений», в которой противоборствующие стороны руководствуются парадигмой игры с нулевой суммой, «или мы - или они», «победитель получает всё». Гонки, в которой все моральные ориентиры не просто уходят на второй план - но вовсе отбрасываются как мешающие достижению цели. Гонки, в которой та же участь ждет и вопросы безопасности ИИ (AI Safety). Учитывая беспрецедентный, экзистенциальный масштаб рисков, который несет эта технология - а также то, что внушительная часть ресурсов будет брошена на создание ИИ-вооружений - этот сценарий является одним из самых опасных вариантов будущего, которые только можно представить. Одним из самых неустойчивых.
Добавим, что пока международная изоляция не показала убедительной эффективности в деле конверсии автократий в демократии. Неочевидно, почему Амодеи вообще считает, что его стратегия даст такой результат.
И в целом каких-то «железно» работающих методов такой конверсии политическая социология пока предложить не может. Всё ограничивается некоторыми расплывчатыми зависимостями общего характера, которые нереально упаковать в некий экшен-план и положить на стол высокопоставленным политикам, обожающим простые решения.
А демократия - сложная система. Сложная система, опирающаяся на множество механизмов, преодолевающих «естественные» обезьяньи повадки в человеке и пытающаяся сфокусировать энергию этого стада человекообразных обезьян в конструктивное русло.
Демократия требует зрелости своих институтов. А эта зрелость достигается главным образом путем проб и ошибок, нарабатывания опыта. Но больше всего власть народа зависит от качества этого самого народа. Посмотрим на две наиболее четких зависимости, показывающих нам, как превратить автократию в демократию. Это, во-первых, уровень образования:
(на графике уровень образования посчитан как среднее количество лет обучения; если добавить качественные показатели, то зависимость стала бы еще четче)
… и, во-вторых, уровень достатка:
(зависимость немного размывается странами с высокой нефтяной рентой)
Разумеется, и в том, и в другом случае связь работает во все стороны: демократия способствует повышению благосостояния страны, рост благосостояния - росту уровню образования, и т. д. Но в целом эти зависимости довольно интуитивны и хорошо подчеркивают наш тезис: чем дальше человек отдаляется от обезьяны - тем лучше у него получается строить демократию.
Амодеи соглашается с этой линией мысли и даже приводит дополнительные аргументы: “В частности, я ожидаю, что улучшение психического здоровья, благосостояния и образования приведет к укреплению демократии, поскольку все три фактора отрицательно коррелируют с поддержкой авторитарных лидеров. В целом люди хотят больше самовыражаться, когда удовлетворяются их другие потребности, а демократия, помимо прочего, является формой самовыражения”.
Но если Амодеи согласен с этим взглядом, как теперь начинает выглядеть предлагаемая им стратегия? Откровенно вредительской. Международная изоляция и отказ в доступе к высоким технологиям будут означать торможение в экономическом развитии авторитарных стран. И сокращение спроса на высокообразованных специалистов. Здесь же мы упомянем внедряемые уже сейчас запреты на поступление китайских выпускников в западные вузы - один из ключевых каналов распространения демократических ценностей среди молодой китайской интеллигенции.
Своё непонимание фундаментальных социополитических процессов Амодеи обнажает фразой «Двадцать лет назад американские политики полагали, что свободная торговля с Китаем приведет к его либерализации по мере того, как он будет становиться богаче, но этого практически не произошло». Стало быть, делает вывод Амодеи, надо менять пряник на кнут. Я не представляю, как можно не видеть разницу между аграрным Китаем, в котором 70% населения - крестьяне, живущие на 2 чашки риса в день, и современным Китаем с внушительной прослойкой образованного городского среднего класса. Либерализация первого вряд ли возможна - а вот вторая страна уже представляет собой благодатную почву для развития демократии. Я уж не говорю о том, что 20 лет - короткий срок с точки зрения эволюции политических систем…
И здесь нам пора, наконец, вернуться к полемике с прогрессивными читателями. Давать ли Китаю дары мощного ИИ? Самой устойчивой стратегией продвижения демократии видится всё-таки не конфронтация, а рост благосостояния и уровня образования людей, живущих в автократических режимах. Чем быстрее они будут расти - тем быстрее такие режимы придут к демократии.
В V части мы уже говорили, что ИИ способен кратно поднять темпы экономического роста, особенно в странах «догоняющего развития». Для которых авторитарные режимы наиболее характерны. Один этот фактор уже благоволит усилению предпосылок для демократизации. Добавим сюда вал технологических революций, которые должна принести «планета гениев в дата-центре». Любая технологическая революция потенциально подрывает сложившиеся социально-политические отношения, буквально «раскачивает лодку». То есть снижает устойчивость правящего режима. Но для того, чтобы эти факторы в полной мере работали на политические изменения - ограничений на их внедрение в авторитарных странах должно быть как можно меньше. И меньше всего смысла вводить эти ограничения извне.
При этом стоит помнить, что доступ к продвинутому ИИ позволит авторитарным правительства завладеть инструментами, усиливающими эксплуатацию граждан и усугубляющими политическое неравенство.
Возможно ли дать блага мощного ИИ напрямую людям, но не правительствам, их угнетающим? Увы, шансы этой идеи выглядят сомнительными. Дело в том, что, как и для многих технологически и организационно сложных систем, работу ИИ будут направлять игроки, способные сконцентрировать наибольшее количество ресурсов. Правительства, особенно авторитарные, здесь изначально находятся в гораздо более выгодном положении, нежели рядовые граждане.
Одна из немногих найденных контрмер, противостоящих такой динамике - открытый доступ к технологии. В числе самых известных примеров можно назвать программное обеспечение с публичным исходным кодом, а также многие сферы науки. Открытый доступ пытается максимально снизить барьеры для использования технологии, создаваемые требованиями концентрации ресурсов. Поскольку системы ИИ являются программными, цифровыми продуктами, мы можем применить в их отношении лучшие практики развития свободного ПО. Разумеется, это не решает всех проблем справедливого использования ИИ - но это лучшее решение, которое я вижу сегодня.
Подытоживая, максимально свободное распространение ИИ-технологий выглядит гораздо более устойчивым сценарием демократизации планеты, нежели ограничения, технологическая гонка и неоколониальный диктат.
>> Продолжение: Часть VII >>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!