Суверенная техно-демократия
«Техно-демократия» недолго оставалась аморфной, пустой, но модно звучащей концепцией. Весьма быстро нашлись ребята, которые решили натянуть эту концепцию на свои интересы.
И какие ребята! Сэм Альтман, глава «ОпенАИ», талантливый бизнесмен, хрестоматийный тех-бро, интересующийся дорогими спорткарами и самолетами, в последние несколько лет старался не отсвечивать в политике. Видимо, помня неудачный опыт своих откровенно наивных, техно-утопических инициатив в 2017. Но аппетит приходит во время еды. Мировая слава и статус руководителя «самого важного стартапа на планете», свалившиеся на Альтмана, добавили ему куража. А политика, как известно, любит смелых.
Так что почему бы Альтману не стать знаменосцем идей «техно-демократии»? Не потешить свои амбиции? Возражающих, видимо, не нашлось - и вот в «Вашингтон Пост» выходит колонка Альтмана, предлагающая, что называется, actionable plan по достижению этой самой техно-демократии в глобальном масштабе. Давайте с ним знакомиться.
С самого начала колонки нарратив Альтмана рисует нам драматическую, черно-белую, простую, как три копейки, картину, в которой судьба нашего мира подвешена в воздухе. У этого мира есть ровно два варианта. Первый вариант - Соединенные Штаты и их союзники продвигают, цитата, «глобальный ИИ», и этот ИИ приносит всем технологические дары и открытый доступ к этим технологиям.
Второй вариант - это авторитарное будущее, в котором страны и течения, не разделяющие американские ценности, используют ИИ, чтобы укрепить свою власть и распространить ее еще шире.
Третьего не дано. Более того, предупреждает колонка, времени на раздумья нет, и решать американскому читателю, какой вариант устроит его больше - торжество американской демократии или же нависающая над ним тень условного Путина - нужно прямо сейчас.
Но мы дерзнем взять паузу и немножко порефлексируем над прочитанным. Вообще, такая композиция нарратива - «черно-белость», простота, две удобных опции, правильная и неправильная, игра с нулевой суммой («либо мы, либо они»), нагнетание «критичности» момента - говорят о том, что текст писал хороший, очень грамотный политтехнолог. Если вдруг вам когда-нибудь попадётся политический текст, в котором нет черно-белой картины мира - знайте, что его автор ничего не понимает в пиаре.
Если говорить о содержании, а не о форме… Основная загвоздка в том, что мир не сводим к черно-белым шаблонам. Мир устроен гораздо сложнее. И вариантов действий - равно как и их исходов - всегда гораздо, гораздо больше, чем пытаются изобразить политические статьи.
В частности, у США имеются существенные возможности повлиять только на свои собственные разработки. Уже на ИИ-политику своих союзников они имеют довольно ограниченное влияние. Даже минимальная международная координация требует наличия соответствующих международных институтов, и в области ИИ они практически отсутствуют. Достаточно посмотреть на довольно жесткую политику Евросоюза в отношении пользовательских данных и регулирования ИИ - сильно расходящуюся с американской практикой и заставляющая американских разработчиков попросту исключать Европу из числа рынков для своих ИИ-продуктов.
Что же касается влияния на нейтральные и тем более враждебные страны - то оно совсем невелико. Другими словами, укрепление и распространение власти авторитарных режимов находится главным образом в руках этих режимов. То есть от выбора американских читателей - как бы они ни болели за глобальную демократию - оно практически не зависит.
И тут нам пора вспомнить о такой интересной концепции, как суверенитет. На роль суверенитета в международном праве пока не покушаются даже самые прогрессивные техно-демократы. И, в общем-то, принцип суверенитета не очень сочетается с критической значимостью решений отдельно взятых стран (даже если эта страна - США) и с синхронизацией глобальных исходов с этими отдельными решениями.
Более того, мы можем сказать, что такая «техно-демократия», где есть решающие за всех США, совершенно недемократична с точки зрения международного права. Право на свой голос и свой путь есть у каждой страны. В противном случае не очень понятно, где заканчиваются демократические ценности и начинаются ценности авторитарные.
Подытоживая, два представленных «черно-белых» сценария ничуть не противоречат друг другу: ничто не мешает США и их союзникам развивать свободный ИИ, в то время как авторитарные режимы будут расширять и углублять алгоритмический тоталитаризм.
Видимо, чувствуя шаткость такого противопоставления, Альтман начинает выдумывать аргументы об «опасности» авторитарных режимов для американских граждан. «Если им удастся выйти вперед в области ИИ, они заставят американские компании и фирмы из других стран делиться с ними пользовательскими данными, используя технологию для разработки новых форм слежки за своими гражданами или создавая кибервооружение нового поколения, применяемое против других стран».
Сценарий не слишком реалистичный: каких-либо рычагов для давления на американские корпорации у России и Китая нет. Враждебная атмосфера ведет к тому, что разрываются даже невинные международные бизнес-связи - что уж говорить о каких-либо попытках вымогательства данных. Сценарий, при котором кибератаки вырастают до масштаба «выжженной земли», выглядит совсем фантастическим.
Но ключевой момент, на который стоит обратить внимание - ремарка «если им удастся выйти вперед». Ремарка, которая сильно ударяет по нарративу «игры с нулевой суммой» и черно-белым сценариям. Оказывается, ситуацию нельзя описать как «всё или ничего». Оказывается, альтернатив больше, чем две. Оказывается, достаточно просто поддерживать технологический паритет со странами «оси Зла».
Но Альтмана не интересуют ни суверенные автократии, ни технологические паритеты. Ему нужен целый мир. И целый мир в его смелых фантазиях почему-то должен вращаться исключительно вокруг одной-единственной страны. Соединенных Штатов Америки. «Если мы хотим гарантировать, что будущее ИИ - это будущее, созданное в интересах как можно большего числа людей, нам нужна глобальная коалиция, возглавляемая США […] Государственный и технологический секторы Соединенных Штатов должны правильно сделать четыре больших вещи, чтобы обеспечить создание мира, построенного согласно демократическому видению для ИИ». (выделение моё)
Демократия демократией, но в предлагаемой коалиции у нас будет главная страна и будут ее технологические вассалы младшие братья. Но вы не волнуйтесь, эта главная страна будет радеть за интересы как можно большего числа людей. Где там у нас много людей? Ну в Китае, в Индии, на африканском континенте. Вот за их интересы США будет топить в первую очередь. Честное слово.
-
Сэм Альтман, будучи новой иконой Кремниевой долины, наверняка больше остальных уверен, что в техно-демократии главное - это технологии. А демократия - это скорее риторическая фигура. И с технологической точки зрения лидерство США в ИИ и их глобальные амбиции действительно видятся закономерными.
Проблема как раз со второй частью концепции. США никак не назовёшь идеалом демократии. В рейтинге качества демократии Economist Group Штаты болтаются на дне третьего десятка. Многие демократические институты федерального уровня откровенно дисфункциональны - достаточно посмотреть на состояние нынешнего президента США.
Но главное противоречие лежит не в состоянии внутренней американской политики, а во внешних ее отношениях. Сколько ни читай мантры о демократии, фактический глобальный миропорядок, продвигаемый Америкой, никогда не воспринимался остальным миром как основанный на свободе, равенстве и братстве. И чем дальше страна стояла от американской метрополии, чем ниже был ее статус в негласной иерархии - тем более несправедливым воспринимался этот миропорядок.
Сколько ни читай мантры о демократии, США с непринужденной легкостью - ничуть не сдержаннее России - использовали военное насилие против других стран для достижения своих политических целей. И ставили отношения превыше правил: «друзьям всё, врагам - закон».
Наконец, расстановка приоритетов между демократией, сотрудничеством и доброй волей, с одной стороны, и гегемонией, враждебностью и нетерпимостью, с другой, очень ясно видна в начатой Штатами новой холодной войне против Китая. Войне, предпосылкой которой стали не какие-нибудь перемены в политических ценностях КНР - там-то царит #стабильность, которая Владимиру Владимировичу не приснится даже в сказочном сне - а страх потери доминирующего положения в глобальной экономике.
Идеология, призывающая другие страны сплотиться вокруг США, может быть сколь угодно противоречивой и лицемерной - но главное, чтобы она работала. Увы, она перестаёт работать на наших глазах. Причину хорошо описывает эта цитата из анализа экспертов «Карнеги». «Кажется, что для многих правительств Глобального Юга это улучшение их экономического достатка и политического положения не ослабило, а ускорило их желание переориентироваться [на новый миропорядок] - потому что их растущая сила не сопровождалась растущими привилегиями».
Именно так. До сих пор глобальный порядок, продвигаемый США, был не столько про демократические ценности, сколько про привилегии. Главным образом привилегии самих США. И мне, конечно, очень хочется, чтобы американское правительство прислушалось к красивым речам Альтмана и кардинально изменило свою международную повестку. Куда-то в сторону большего соответствия декларируемым демократическим идеалам. Но, боюсь, новую ИИ-инициативу за пределами США многие встретят очень скептически.
Развеять - или подтвердить - скепсис могут конкретные предложения Альтмана по ИИ-стратегии Штатов. Пора обратиться к содержательной части его плана.
Пункт первый: американские фирмы должны максимально прокачать свою защиту от хакеров. Чтобы враги не украли секреты американского ИИ.
На первый взгляд, вполне здравое предложение. Разве что возникает вопрос, почему прокачивать защиту нужно только американским фирмам, а не их коллегам из стран-союзников. К этому моменту мы вернемся чуть позднее.
Пункт номер два: нужно строить инфраструктуру для ИИ. Подключив к этому процессу и частный сектор, и государство. Речь идёт и о дата-центрах, и об электростанциях. А также о «человеческом капитале» - специалистах по работе с данными и ИИ. Пункт разумный, возражений нет.
Третий пункт интереснее: он касается разработки «коммерческой дипломатии» для технологий ИИ. То есть правил экспортного контроля и контроля над иностранными инвестициями в этом секторе. Правительство США должно определить, какие аппаратные ускорители, какие данные, какие алгоритмы и в каких местах земного шара могут находиться.
Упс! Кажется, у нас опять из-за «демократического» фасада выперла очередная привилегия. Ведь все (все!) компоненты технологий ИИ оказываются под плотным контролем американского правительства. А союзнички пускай смиренно ожидают высочайшего соизволения на то, чтобы заиметь «с барского плеча» передовую технологию.
Да, ребята. На всякий случай напомню: это США продвигают «открытый глобальный ИИ», а Китай с Рашкой - укрепляют с помощью ИИ свою власть. Не наоборот. Не перепутайте.
Альтман, тем временем, рассуждает, что некоторые данные и алгоритмы могут быть настолько важными, что за пределы США их никто передавать не будет. Обойдётесь, союзнички. У нас тут демократия, но немножко с элементами техноколониализма. Поэтому и разрабатывать киберзащиту другим странам не надо - ничего ценного у них всё равно не будет.
А как же обещанный «открытый доступ»? Да, точно, спохватывается Альтман. Я, типа, вообще за опенсорс, он, типа, привлечет кучу разработчиков из развивающихся стран. Но это же дело государственной важности! Поэтому не надо обращать внимание на взаимоисключающие параграфы. И на практики моей собственной компании тыкать тоже не надо. В конце концов, я же полез в политику - а там всегда говорят на публику одно, а делают совсем другое...
Наконец, четвертый пункт - создание международных норм, регулирующих безопасность ИИ-разработок. Здесь, признает Альтман, никаких конкурирующих блоков не нужно. Международные правила должны быть едины для всех. Что потребует их согласования с Китаем, Индией и другими не совсем вассальными странами. Вот как: оказывается, с конкурентами можно не только вести гонку вооружений, но еще и договариваться. Правда, в черно-белых сценариях эта опция всегда отсутствует.
«У нас не будет ИИ, созданного, чтобы максимизировать выгоды от технологии, минимизируя ее риски, если мы не обеспечим победу демократического видения для ИИ», - заключает Альтман.
Пора подводить итоги и нам. Нужно ли нам демократическое видение для ИИ, нужно ли нам развитие технологии в соответствии с демократическими идеалами? Да, безусловно нужно.
И самым демократическим путём развития ИИ являются открытые исследования, открытые данные, открытые вычислительные архитектуры и открытые модели. Открытые для каждого. Открытые на равных условиях - без привилегий, без иерархии, без вмешательства твоего или чужого государства и без финансовых барьеров.
И если Альтман - руководитель общественной организации, поставившей своей целью раздачу благ от ИИ всему человечеству - действительно хочет гармоничного развития ИИ, он может прямо сейчас стать примером демократизации этой технологии. Выложив в открытый доступ все разработки своей компании. Это не просто сократило бы технологическое неравенство в мире - но еще и значительно ускорило бы прогресс в этой сфере.
Это не требует никакой политизации, никакого выдумывания черно-белых сценариев, никакого конструирования схем обеспечения привилегиями.
Но Альтману не нужна демократизация. Ему нужен политический и финансовый капитал. Первый проще всего построить на поляризации, алармизме и манипуляциях. Второй - на монополии, эксклюзивности и лоббировании государственных чинов.
И я думаю, что у Альтмана получится достичь своих целей.
Получится ли глобальный порядок, основанный на «демократическом ИИ»? Большой вопрос.
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!