Дарио Амодеи: "Машины благодатной любви" (IV-V)
<< Начало: Часть I - III <<
IV. Если не биология, то что?
По большому счету, на биологии и психологии подробный анализ научно-технических достижений в эссе Амодеи и заканчивается. Дальше еще встречаются какие-то эпизодические идеи - но не более того.
Почему так? Пожалуй, дело в этике и пресловутой теплой ламповой машинной любви. Борьба с болезнями - это этично. Борьба cо старением, ментальным неблагополучием и негативными эмоциями, сомы грамм - и нету драм, - тоже безусловное благо.
А вот является ли безусловным благом и проявлением чистой любви новая версия айфона, Мерседеса или GTA? Здесь пламенные борцы за светлое будущее могут недовольно поморщиться. Мол, мы тут рассуждаем о высоких целях - а вы лезете со своим потреблятством. Мы спасаем человечество от тяжких оков биологических ограничений - а вы думаете только об электронных игрушках и престижных машинках. Всё это слишком мелочно и пошло, чтобы рассматривать его в сценарии появления мощного ИИ.
Справедливости ради, именно в медицине и нейробиологии Дарио Амодеи разбирается наиболее глубоко. Поэтому остальные направления технологического прогресса он мог оставить в стороне из-за более слабой компетенции. Благо эссе и так получилось очень объемным.
Как бы там ни было, нам придётся хоть как-то восполнять этот пробел. Потому что этика если и имела когда-нибудь влияние на направление научно-технологического прогресса - то оно было небольшим и довольно опосредованным.
А что же тогда имело влияние? И сохранится ли это влияние с приходом мощного ИИ? Здесь можно назвать две главных движущих силы. Первая из них этику предпочитает не замечать, вторая - откровенно ей враждебна.
Первая сила - это рыночная капиталистическая экономика. Она ориентирована, во-первых, на удовлетворение потребительских желаний. И, во-вторых, на эксплуатацию потребительских желаний: а именно, зарабатывание максимальной прибыли на процессе потребления.
Первый ориентир возвращает нас к разговору о гедонизме, который мы начали в предыдущей части. И к тому, что исследования организуются не энтузиастами, мечтающими о всеобщей вечной молодости - а расчетливыми менеджерами из корпораций и университетов. Нацеливающимися на продукты, удовлетворяющие гораздо более приземленные потребности.
Решает не этика, а потенциальный платежеспособный спрос. Другими словами, решает рыночек. Он позволяет довольно точно, в денежном выражении, оценить, какую отдачу принесут разработки в той или иной сфере.
Сейчас приоритеты частных исследований выглядят так:
Мы видим, что биотехнологии ушли на третье место по объему вложений в исследования. А на первых двух находятся ИТ: хардвер и программное обеспечение. Надо полагать - учитывая гигантские вычислительные потребности ИИ, особенно настолько мощного - что как минимум для вычислительного оборудования приоритет исследований сохранится. ИИ-революцию должен поддерживать революционный темп совершенствования вычислительной техники.
С программным обеспечением меньше ясности. В частности, многие пророчат замену человеческих программистов на ИИ задолго до того, как он достигнет уровня нобелевского лауреата по всем наукам сразу. Но учитывая тренд на цифровизацию и кибернетизацию окружающего мира, потребность в ПО должна расти параллельно ИИ-революции. В принципе, мы можем списать усилия на совершенствование ИИ - а на это тоже потребуется очень много ресурсов - именно на эту категорию.
И тогда первые две строчки рейтинга частных НИОКР пойдут по разряду «разработка средств разработки». Этакие капитальные вложения, которые важны с точки зрения ИИ, но непосредственно на жизни людей не отражаются. А третья строчка, биотех, тогда действительно окажется главным направлением усилий, прямо влияющих на жизнь людей.
Выделим также четвертую строчку - автомобилестроение. Заслуженное место: на сферу транспорта тратится около 10% глобального ВВП, существенная доля которого приходится именно на автомобильную промышленность. Это весьма перспективный рынок.
Продолжая ход мыслей Дарио Амодеи, мы можем предположить, что за 5-10 лет после начала ИИ-прогресса нам удастся совершить рывок в этой области, эквивалентный предыдущей сотне лет. Сто лет назад как раз начиналась эпоха массовой автомобилизации (а также стартовала коммерциализация авиатранспорта).
Смотря на сегодняшние перспективные тренды, можно спрогнозировать приход автономного транспорта (возможно, означающий конец личного владения автомобилями), расцвет персональной авиации (аэротакси), вездесущую доставку коптерными и колесными дронами и, вероятно, коммерциализацию более «экзотических» технологий, типа межконтинентальных баллистических ракет Илона Маска.
Все остальные направления НИОКР попросту теряются на фоне четырех вышеописанных. Значит ли это, что будущие «ИИ-ученые» будут вести здесь исследования по остаточному принципу, и масштабных изменений ждать не стоит? Я бы не делал такого поспешного вывода.
Вспомним еще раз про ключевой драйвер НИОКР: максимизацию прибыли. В идеальной рыночной экономике норма прибыли примерно одинакова для всех направлений бизнеса. А вот в реальности рынок неидеален. И на нем есть возможность извлекать сверхприбыли за счет концентрации рыночной силы у нескольких производителей. А в лучшем случае - у единственной монополии.
Посмотрим на сектор ИТ, лидирующий по вложениям в НИОКР. Здесь мы увидим как раз такую ситуацию: для многих продуктов, что хардверных, что программных, есть либо доминирующий производитель/разработчик, либо несколько ведущих игроков. Посмотрим на фармацевтику: здесь патент даёт разработчику эксклюзивное право на производство того или иного препарата. В автомобилестроении концентрация пониже - но тоже немалая.
Такая рыночная сила позволяет компаниям с большей охотой вкладываться в исследования. Риск неудачного поиска компенсируется потенциальными выгодами от эксплуатации своего положения на рынке. Соответственно, если некие будущие продукты впишутся в эту схему рыночной концентрации - на их создание тоже будет брошена существенная часть «планеты гениев в дата-центре».
Поэтому давайте посмотрим на потенциал таких рыночных ниш с иной стороны, со стороны объема нынешнего потребительского спроса. И здесь самая большая часть расходов, почти 30% глобального ВВП, связана с жильём, включая тепло, электричество, мебель, предметы обихода и бытовую технику.
У нас нет причин предполагать, что ИИ-исследователи обойдут стороной такой гигантский кусок мировой экономики. Вновь предположим, что за 5-10 лет после начала ИИ-прогресса нам удастся совершить рывок, эквивалентный предыдущей сотне лет.
Сто лет назад, в 1924, жилищные условия весьма сильно не дотягивали до современных стандартов. В США, самой богатой на тот момент стране, только начиналась массовая электрификация жилищ. В большинстве домов не было водоснабженяия. Унитазы, соответственно, были еще большей редкостью.
В США средняя площадь в расчете на одного проживающего за 100 лет увеличилась примерно в 4 раза. Почему бы не ожидать такой же рост и в нашу ИИ-десятилетку? Что касается удобств, то тренды указывают в сторону умного дома «на максималках» - где всё, вплоть до мелочей управляется электронно. А пространство контролируется датчиками и камерами 24/7… впрочем, мы опять скатываемся в антиутопию.
Некоторым препятствием здесь видится большая материалоёмкость подобного роста стандартов: увеличить каждому жилплощадь в 4 раза за 10, а то и за 5 лет - это нетривиальная задачка для материальной экономики. Для правдоподобия будем считать, что подобные стандарты скорее будут характерны для новых домов, а не для всего построенного жилого фонда.
А вот с чем препятствий не должно возникнуть - так это с появлением в домах роботов-домработников, которые взвалят на себя ведение хозяйства. Это одна из самых перспективных, наиболее прибыльных ниш для роботизации, где годовой спрос может исчисляться сотнями миллионов машин в год. Домашние роботы освободят для людей примерно столько же времени, сколько в ХХ веке освободили стиральные машины, автоматические котлы и другая бытовая техника.
И домашние роботы, и автоматизация «умного дома», подразумевающая включение его в некую корпоративную экосистему - примеры продуктов с высоким потенциалом концентрации рынка. Что благоприятно для выделения большого объема исследовательских ресурсов. Так что с коммерческой точки зрения подобный сценарий вполне обоснован.
Еще один важный сектор, который стоит упомянуть с точки зрения объема рынка - индустрия развлечений и впечатлений. Немногим менее 10% глобального ВВП. За сто последних лет эта индустрия существенно поменялась: не существовавшие в 1920-ых цифровые медиа успели оттеснить в тень физические форматы развлечений. Подбор развлечений стал автоматизированным (рекомендательные системы), а сами они - доступны в любой момент времени и в любой точке земного шара. Если о биологической и нейробиологической свободе Дарио Амодеи еще только мечтает, то «развлекательная свобода», по крайней мере в части цифровых развлечений, уже наступила.
Что могут принести нам следующие 100 лет, «сжатые» в 10-20 раз? Буквально недавно мы обсуждали, что сгенерированный ИИ развлекательный контент конкурентоспособен уже сегодня. Продлим этот тренд в будущее. И мы придем к тому, что почти весь контент уникальным образом генерируется для каждого человека. Еще один очевидный тренд - виртуальная реальность. Полное сенсорное погружение в выдуманный мир. Что, кстати, хорошо дополняет идею Амодеи об апгрейде «базовых ощущений людей».
И, в общем-то, у нас вновь начинают звучать антиутопические нотки. Что-то вроде пелевинской «Любви к трем цукербринам» «Иноземья» Теда Уильямса. Хотя, если подойти непредвзято, целый персональный мир - пожалуй, самый щедрый подарок, который можно получить от благодатно-любящей машины. Да, этот мир виртуален. Но ведь большего нам всё равно не светит.
Напоследок, раз уж в разговоре всплыл Пелевин, еще раз вспомним о стремлении капиталистов эксплуатировать потребительские желания. И затронем еще одно важное направление технического прогресса. Реклама, маркетинг и в целом методы управления коллективным бессознательным.
Прогресс за крайние 100 лет здесь был колоссальным. В 1924 все еще бытовали очень наивные представления о рекламе. Эпохальный труд Эдварда Бернейса «Пропаганда» выйдет только в 1928 году. Изменения в подходах к рекламе за этот промежуток можно сравнить с переходом от суеверных представлений к строгому научному методу. Реклама сначала из ремесла стала искусством, а затем из искусства превратилась в «промышленный» процесс.
21-ый век показал новые тренды, позволяющие интенсифицировать эксплуатацию потребителей: это персонализация рекламного месседжа и майнинг пользовательских данных. Продляя их в будущее и учитывая затронутый выше курс на виртуальность, мы вправе ожидать, что машинно-сгенерированные персональные миры будут представлять собой гигантскую, бесшовную и жутко затягивающую рекламную площадку. А вся жизнь пользователя, онлайновая и оффлайновая, будет скрупулезно отслеживаться, чтобы сделать эту рекламную площадку еще более увлекательной для пользователя и еще более эффективной для капиталиста.
Пока это звучит довольно мягко. Поэтому переформулируем так: капитализм получит возможность формировать окружающую пользователя реальность и делать это совершенно незаметно для последнего.
Также добавим, что эти технологии - практически идеальный продукт с точки зрения потенциала концентрации рынка. Поэтому речь идет даже не столько о "естественных трендах" в сфере развлечений - сколько о целенаправленном стремлении капитала развивать такой формат и монетизировать монопольное положение на этих рынках.
Такая степень эксплуатации уходит довольно далеко от изначального замысла Амодеи описать этически безупречный сценарий машинной «благодатной любви». Но мы вправе поставить вопрос о практической осуществимости этически безукоризненных сценариев. Может ли экономика работать на любви? Сомнительно. Зато она очень хорошо работает на деньгах. И коль скоро ключевые разработчики ИИ в данный момент представляют собой крупные капиталистические корпорации, нам стоит ожидать, что облик новой технологии будут формировать фундаментальные экономические интересы этих игроков. В частности, модель бесплатного контента, монетизируемого за счет рекламы, стала одной из самых характерных черт современного капитализма. Всё указывает на то, что в будущем такая модель может стать еще более доминирующей.
Подытоживая «коммерческую» часть наших рассуждений, помимо исцеления от болезней, старости и психологических проблем, мощный ИИ способен дать людям удобные и быстрые транспортные опции, освободить от домашней рутины и подарить самые захватывающие развлекательные впечатления (возможно, приправленные изощреннейшими техниками манипуляции).
Рассказав об интересах «злата», теперь обратимся к точке зрения «булата»: государственного сектора, обладателя монополии на насилие, уделяющего немало внимания разработке технических средств для реализации этого самого насилия.
До сих пор прием Амодеи - посмотреть на 100 лет назад и оценить, какой прогресс может быть сделан за один век - давал нам очень контрастную разницу. А вот в случае с государственным аппаратом мы увидим в лучшем случае косметические изменения. Действительно, мы можем открыть соответствующие страницы в «Экономике и обществе» Макса Вебера - и убедиться, что описания классика ничуть не утратили актуальности.
Означает ли этот консерватизм, что мощный ИИ не очень повлияет на технологии государственного управления? Видимо, в среднесрочной перспективе изменения здесь действительно будут идти медленнее. Как минимум, спрос на новые технологические решения со стороны государства будет гораздо более подавленным, нежели спрос на коммерческие технологии со стороны капиталистов.
Это не значит, что ИИ принципиально не способен что-то дать государственному управлению. Скорее наоборот, способен. И очень много. Некоторые конкретные детали такой эволюции государственного и политического управления мы обсудим в следующих частях.
Пока же мы остановимся на паре областей, к которым государство может действительно питать неподдельный интерес. Увы, этот интерес опять продиктован вещами, весьма далекими от «благодатной любви».
Первая - это уже упомянутые технологии влияния на общественное сознание. В политике с ними намного проще, чем в коммерции. Если коммерческая реклама должна заставить человека купить некий продукт, то в политике можно работать с гораздо более широким набором чувств: ненависти, сплоченности, доверия и т. п.
«Промывка мозгов» - неизменный атрибут для любой авторитарной антиутопии. Но если бы проблема касалась только автократий - которых не жалко - это было бы еще полбеды. К сожалению, технологии персонализированной пропаганды всё активнее берутся на вооружение и в демократических странах. Вспомним скандал вокруг «Кембридж Аналитика» и нынешние коллизии вокруг покупки «Твиттера» политически ангажированным Илоном Маском. Отметим растущие усилия государств по модерации контента, циркулирующего в Сети.
Причины популярности таких технологий просты. С одной стороны, они работают. С другой стороны, безнадежный консерватизм политического законодательства не позволяет ему вовремя подстроиться под появление всё новых техник манипуляции и эксплуатации. Да и хочется ли ограничений? Элиты, в принципе, устраивает ситуация, в которой они приобретают дополнительные инструменты управления общественным мнением.
И если вы прохладно отнеслись к идее, что капитализм будет формировать окружающую пользователя реальность совершенно незаметно для последнего - то представьте, что государство сможет формировать политическую реальность, окружающую избирателя.
Там же, где не получается диктовать свою волю при помощи манипуляций, государства могут прибегнуть к испытанному средству: насилию. Оружие всегда было приоритетным направлением научно-технологических изысканий государства - и очевидно, что усилия мощного ИИ не обойдут стороной эту сферу.
Целью этих научно-инженерных изысканий всегда было создание оружия, способного убить как можно больше людей за как можно меньшие деньги в произвольной точке нашей планеты. Любопытно, что в этой сфере тоже наблюдается некая «заморозка» прогресса: с конца 1960-ых продвижений в убойности и дешевизне практически не было, а в произвольности они были относительно невелики.
И это хорошо. Но, боюсь, появление «планеты гениев в дата-центре» может стать катализатором, вновь ускоряющим прогресс в вооружениях. Достаточно послушать государственных чиновников по обе стороны Тихого океана. Никто из них не говорит о продлении жизни до 150 лет и избавлении от психологических проблем. Зато каждый вещает о том, что « ИИ - это вопрос национальной безопасности!» Под «национальной безопасностью» вещатели понимают как раз таки имеющиеся возможности по уничтожению людей в произвольно выбранной точке земного шара. А также возможности диктовать свою волю другим - и ни слушать указаний ни от кого.
Поэтому политикам не нужны машины благодатной любви. Им нужны машины эффективных убийств. И они, скорее всего, получат этот опасный инструмент. ИИ-«гениям» будет сложно увеличить продолжительность человеческой жизни вдвое - а вот для того, чтобы укоротить ее вдвое, особых достижений в ИИ не требуется.
Остаётся лишь надеяться, что эти убойные возможности останутся лишь возможностями и никогда не будут применены в реальном конфликте. Что если политикам далеко до гениальности - то хотя бы примитивный инстинкт самосохранения у них должен наличествовать. Наконец, что решения будут принимать не примитивные люди, стремящиеся к диктату, а их более сообразительные алгоритмические заменители… Впрочем, об этом - уже в следующих частях.
V. Экономическое развитие и бедность
В предыдущей части мы отошли в сторону от повествования Дарио Амодеи, предпочитающего не вспоминать про более приземленные - равно как и менее этичные - аспекты ускорения научно-технологического прогресса. Пора возвращаться к миру благодатной любви и безукоризненной морали. Следующая часть эссе Амодеи посвящена тому, как плоды прогресса будут распределяться в нашем мире, далеко не однородном с экономической точки зрения.
Если в ускорение научного прогресса Амодеи верит основательно - для этого достаточно заполучить «планету гениев в дата-центре» - то насчет позитивного эффекта от ИИ на экономический рост и проблему неравенства у него есть некоторые сомнения. Наукой можно заниматься, не затрагивая людей. Экономика же упирается в человеческие интересы, часто противостоящие друг другу. Вдобавок экономика - очень сложная система со множеством обратных связей.
Поэтому неких грандиозных изменений, вроде решения искусственным интеллектом проблемы расчета в плановой экономике и делегирования экономических решений централизованному ИИ Амодеи не ждет. Он скорее описывает, как ИИ поможет повторить уже реализованные «истории успеха» в странах, которые сейчас отстают в социально-экономическом развитии. Грубо говоря, у нас есть пример Соединенных Штатов, достигших высокого уровня жизни - значит, мы знаем, что такой уровень жизни достижим и применительно к какой-нибудь Эфиопии.
Одно из направлений такого развития - гуманитарная помощь бедным странам, чтобы описанные во II части медицинские достижения ИИ были доступны всей планете.
«В целом, я думаю, что 5-10 лет - это разумный срок для того, чтобы значительная часть (возможно, 50%) преимуществ для здоровья, достигнутых ИИ, распространилась даже на самые бедные страны мира. Хорошей целью могло бы стать то, чтобы развивающийся мир через 5-10 лет после появления мощного ИИ был, по крайней мере, значительно более здоров, чем развитый мир сегодня, даже если он по-прежнему будет отставать от развитых стран».
Другое потенциальное достижение - полное искоренение голода на всей планете, за счет новых био- и сельхоз-технологий.
Еще одна глобальная проблема, взятая из списка целей устойчивого развития ООН - изменение климата. Технологические достижения ИИ-ученых позволят как минимум затормозить глобальное потепление: например, за счет прямого удаления СО2 из атмосферы или радикального удешевления клеточного мяса.
Насколько быстрым может быть догоняющий рост развивающихся стран в условиях ИИ-революции? Здесь самая крупная из имеющихся «историй успеха» - рост ВВП по ~10% в год в нескольких восточноазиатских странах на рубеже 20/21 веков. Достигнуты эти темпы были не всевидящими ИИ-гениями, а людьми из плоти и крови. Стало быть, ИИ может попробовать повторить эти достижения, пользуясь традиционными инструментами государственной экономической политики (т. е. без экстрима вроде подчинения всей экономики ИИ-Госплану).
И тут возникает вопрос, а отдадут ли власти бразды правления в руки ИИ-экономических советников? Здесь есть две перспективы: внутренняя политэкономическая и внешняя политическая. Первая касается того, что в недоразвитых странах элитки работают не столько на экономический рост, сколько на набивание собственных карманов (т. е. экономическими решениями управляют коррумпированные интересы). Соответственно, приход ИИ означает весьма болезненную для проворовавшихся элит смену приоритетов.
Вторая перспектива гораздо тоньше. Дело в том, что - забегая вперед - Дарио Амодеи не считает страны третьего мира достойными субъектами для прямого использования плодов мощного ИИ. Несмотря на весь гуманитарный пафос эссе. Амодеи полагает, что доступ к технологии должен оставаться в руках у мирового гегемона, США, и наиболее надежных их сателлитов. Внедрение ИИ-советников, таким образом, начинает сильно походить на добровольный отказ от экономического суверенитета в пользу мировой сверхдержавы. Этакий кибернетический вариант колониализма.
Впрочем, Амодеи, как вы уже поняли, старательно обходит такие неоднозначные моменты. Не получится с ИИ-экономическими советниками - значит, обойдемся. Благо в мире мощного ИИ будет еще несколько драйверов ускорения экономического роста. Это стандартная диффузия технологий, движимая рыночными силами. И это плоды нейробиологической свободы (см. часть III): повышение работоспособности человека за счет улучшения концентрации, мотивации и избавления от лишних переживаний. Если в предыдущих частях мы шутили о параллелях с сомой из «Дивного нового мира», то сейчас остается только шутить про амфетамины...
Кстати, насчет повышения работоспособности человека. Неужели в мире мощного ИИ для людей останутся рабочие места? Этой теме мы уделим отдельную часть; пока же отметим, что по этому драйверу Амодеи высказывается осторожно. Он не исключает, что быстрая автоматизация станет серьезным риском для экономически отсталых стран, закрывающим возможности для их догоняющего развития.
Если этого риска удастся избежать, то “[в] целом, сценарий, о котором можно мечтать, - возможно, цель, к которой стоит стремиться, - это ежегодный рост ВВП развивающихся стран на 20%, при этом по 10% будут обеспечиваться экономическими решениями с использованием ИИ и естественным распространением технологий, ускоренных с помощью ИИ, включая здравоохранение, но не ограничиваясь этим. Если это будет достигнуто, то через 5-10 лет страны Африки к югу от Сахары достигнут нынешнего уровня ВВП на душу населения Китая, а большая часть остального развивающегося мира достигнет уровня, превышающего нынешний ВВП США.”
Что ж, мечтать не вредно. Но конкретных механизмов догоняющего развития бедных стран в условиях ИИ-революции пока не видно. Скорее всего они найдутся - но будут иметь нерыночную природу, в русле затронутой выше гуманитарной помощи.
А что с другим типом неравенства, внутристрановым? В научной фантастике уже стало общим местом, что общество будущего характеризуется экстремальным расслоением. Если у нас зашла речь про такие вещи, как продление жизни в два раза, генетические и ментальные аугментации и т. п. вещи - естественной реакцией будет предположение, что все эти блага достанутся только избранной горстке элит.
Амодеи призывает избегать расхожих фантастических штампов. Особенно если речь идёт о развитых демократиях. «Я с большим оптимизмом смотрю на неравенство внутри стран, особенно в развитых странах, по двум причинам. Во-первых, в развитых странах рынки функционируют лучше, а рынки, как правило, способны со временем снижать стоимость дорогостоящих технологий. Во-вторых, политические институты развитых стран более чутко реагируют на интересы своих граждан и обладают большими государственными возможностями для реализации программ всеобщего доступа, и я ожидаю, что граждане будут требовать доступа к технологиям, которые столь радикально улучшают качество жизни».
Эмпирика в данном случае на стороне Амодеи. Абсолютное большинство сегодняшних продвинутых технологий (например, айфоны микроэлектроника или ЧатГПТ генеративный ИИ), в том числе в области медицины, абсолютно доступны для представителя среднего класса западной страны. И такая ситуация была характерна, начиная с Промышленной революции. Экономические законы благоволят равному доступу к технологиям. Максимизация прибыли требует не ограничения продаж за счет эксклюзивности - а, напротив, как можно более широкого масштабирования.
Впрочем, предупреждает Амодеи, свободный доступ к продвинутым технологиям вовсе не означает, что исчезнет проблема неравенства в богатстве.
Наконец, заключительная проблема, которой касается Амодеи, имеет даже не экономический характер. Это проблема людей, которые - в основном по идейным соображениям - отказываются от даров Любящих Машин.
Участь этих людей незавидна. «В конечном итоге могут возникнуть циклы отрицательной обратной связи, когда, например, люди, которые в наименьшей степени способны принимать правильные решения, отказываются от тех самых технологий, которые улучшают их способность принимать решения, что приводит к постоянно увеличивающемуся разрыву и даже созданию антиутопического низшего класса...»
Но что с этим делать? Тащить таких людей за шкирку, насильно, в светлое ИИ-будущее? Обрушить на них поток пропаганды? Вмешаться в работу их психики? Всё это выглядит не слишком этичным.
Амодеи признает, что простых решений здесь не существует. И успокаивает читателя тем, что исторически подобные группы с антитехнологическими настроениями были крайне малочисленны. «Индивидуумы, как правило, перенимают большинство медицинских и потребительских технологий, в то время как технологии, которые действительно тормозятся, такие, как атомная энергетика, как правило, отбираются в результате коллективных политических решений».
Я, в свою очередь, напомню Амодеи про полезные свойства дивёрсити. Разнообразие - это один из ключевых элементов устойчивости сложных систем. Кто знает, в чем больше риска для цивилизации? В наличии групп фанатиков-«натуралистов», живущих в отдельном технологическом укладе? Или же в том, что каждый человек на планете будет «ходить строем» под общий марш безусловного обожания ИИ, всецело завися от предоставляемых им средств к существованию? Какой бы благодатной ни была любовь машин - никто не обязан платить им взаимностью.
>> Продолжение: Часть VI>>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
IV. Если не биология, то что?
По большому счету, на биологии и психологии подробный анализ научно-технических достижений в эссе Амодеи и заканчивается. Дальше еще встречаются какие-то эпизодические идеи - но не более того.
Почему так? Пожалуй, дело в этике и пресловутой теплой ламповой машинной любви. Борьба с болезнями - это этично. Борьба cо старением, ментальным неблагополучием и негативными эмоциями, сомы грамм - и нету драм, - тоже безусловное благо.
А вот является ли безусловным благом и проявлением чистой любви новая версия айфона, Мерседеса или GTA? Здесь пламенные борцы за светлое будущее могут недовольно поморщиться. Мол, мы тут рассуждаем о высоких целях - а вы лезете со своим потреблятством. Мы спасаем человечество от тяжких оков биологических ограничений - а вы думаете только об электронных игрушках и престижных машинках. Всё это слишком мелочно и пошло, чтобы рассматривать его в сценарии появления мощного ИИ.
Справедливости ради, именно в медицине и нейробиологии Дарио Амодеи разбирается наиболее глубоко. Поэтому остальные направления технологического прогресса он мог оставить в стороне из-за более слабой компетенции. Благо эссе и так получилось очень объемным.
Как бы там ни было, нам придётся хоть как-то восполнять этот пробел. Потому что этика если и имела когда-нибудь влияние на направление научно-технологического прогресса - то оно было небольшим и довольно опосредованным.
А что же тогда имело влияние? И сохранится ли это влияние с приходом мощного ИИ? Здесь можно назвать две главных движущих силы. Первая из них этику предпочитает не замечать, вторая - откровенно ей враждебна.
Первая сила - это рыночная капиталистическая экономика. Она ориентирована, во-первых, на удовлетворение потребительских желаний. И, во-вторых, на эксплуатацию потребительских желаний: а именно, зарабатывание максимальной прибыли на процессе потребления.
Первый ориентир возвращает нас к разговору о гедонизме, который мы начали в предыдущей части. И к тому, что исследования организуются не энтузиастами, мечтающими о всеобщей вечной молодости - а расчетливыми менеджерами из корпораций и университетов. Нацеливающимися на продукты, удовлетворяющие гораздо более приземленные потребности.
Решает не этика, а потенциальный платежеспособный спрос. Другими словами, решает рыночек. Он позволяет довольно точно, в денежном выражении, оценить, какую отдачу принесут разработки в той или иной сфере.
Сейчас приоритеты частных исследований выглядят так:
Мы видим, что биотехнологии ушли на третье место по объему вложений в исследования. А на первых двух находятся ИТ: хардвер и программное обеспечение. Надо полагать - учитывая гигантские вычислительные потребности ИИ, особенно настолько мощного - что как минимум для вычислительного оборудования приоритет исследований сохранится. ИИ-революцию должен поддерживать революционный темп совершенствования вычислительной техники.
С программным обеспечением меньше ясности. В частности, многие пророчат замену человеческих программистов на ИИ задолго до того, как он достигнет уровня нобелевского лауреата по всем наукам сразу. Но учитывая тренд на цифровизацию и кибернетизацию окружающего мира, потребность в ПО должна расти параллельно ИИ-революции. В принципе, мы можем списать усилия на совершенствование ИИ - а на это тоже потребуется очень много ресурсов - именно на эту категорию.
И тогда первые две строчки рейтинга частных НИОКР пойдут по разряду «разработка средств разработки». Этакие капитальные вложения, которые важны с точки зрения ИИ, но непосредственно на жизни людей не отражаются. А третья строчка, биотех, тогда действительно окажется главным направлением усилий, прямо влияющих на жизнь людей.
Выделим также четвертую строчку - автомобилестроение. Заслуженное место: на сферу транспорта тратится около 10% глобального ВВП, существенная доля которого приходится именно на автомобильную промышленность. Это весьма перспективный рынок.
Продолжая ход мыслей Дарио Амодеи, мы можем предположить, что за 5-10 лет после начала ИИ-прогресса нам удастся совершить рывок в этой области, эквивалентный предыдущей сотне лет. Сто лет назад как раз начиналась эпоха массовой автомобилизации (а также стартовала коммерциализация авиатранспорта).
Смотря на сегодняшние перспективные тренды, можно спрогнозировать приход автономного транспорта (возможно, означающий конец личного владения автомобилями), расцвет персональной авиации (аэротакси), вездесущую доставку коптерными и колесными дронами и, вероятно, коммерциализацию более «экзотических» технологий, типа межконтинентальных баллистических ракет Илона Маска.
Все остальные направления НИОКР попросту теряются на фоне четырех вышеописанных. Значит ли это, что будущие «ИИ-ученые» будут вести здесь исследования по остаточному принципу, и масштабных изменений ждать не стоит? Я бы не делал такого поспешного вывода.
Вспомним еще раз про ключевой драйвер НИОКР: максимизацию прибыли. В идеальной рыночной экономике норма прибыли примерно одинакова для всех направлений бизнеса. А вот в реальности рынок неидеален. И на нем есть возможность извлекать сверхприбыли за счет концентрации рыночной силы у нескольких производителей. А в лучшем случае - у единственной монополии.
Посмотрим на сектор ИТ, лидирующий по вложениям в НИОКР. Здесь мы увидим как раз такую ситуацию: для многих продуктов, что хардверных, что программных, есть либо доминирующий производитель/разработчик, либо несколько ведущих игроков. Посмотрим на фармацевтику: здесь патент даёт разработчику эксклюзивное право на производство того или иного препарата. В автомобилестроении концентрация пониже - но тоже немалая.
Такая рыночная сила позволяет компаниям с большей охотой вкладываться в исследования. Риск неудачного поиска компенсируется потенциальными выгодами от эксплуатации своего положения на рынке. Соответственно, если некие будущие продукты впишутся в эту схему рыночной концентрации - на их создание тоже будет брошена существенная часть «планеты гениев в дата-центре».
Поэтому давайте посмотрим на потенциал таких рыночных ниш с иной стороны, со стороны объема нынешнего потребительского спроса. И здесь самая большая часть расходов, почти 30% глобального ВВП, связана с жильём, включая тепло, электричество, мебель, предметы обихода и бытовую технику.
У нас нет причин предполагать, что ИИ-исследователи обойдут стороной такой гигантский кусок мировой экономики. Вновь предположим, что за 5-10 лет после начала ИИ-прогресса нам удастся совершить рывок, эквивалентный предыдущей сотне лет.
Сто лет назад, в 1924, жилищные условия весьма сильно не дотягивали до современных стандартов. В США, самой богатой на тот момент стране, только начиналась массовая электрификация жилищ. В большинстве домов не было водоснабженяия. Унитазы, соответственно, были еще большей редкостью.
В США средняя площадь в расчете на одного проживающего за 100 лет увеличилась примерно в 4 раза. Почему бы не ожидать такой же рост и в нашу ИИ-десятилетку? Что касается удобств, то тренды указывают в сторону умного дома «на максималках» - где всё, вплоть до мелочей управляется электронно. А пространство контролируется датчиками и камерами 24/7… впрочем, мы опять скатываемся в антиутопию.
Некоторым препятствием здесь видится большая материалоёмкость подобного роста стандартов: увеличить каждому жилплощадь в 4 раза за 10, а то и за 5 лет - это нетривиальная задачка для материальной экономики. Для правдоподобия будем считать, что подобные стандарты скорее будут характерны для новых домов, а не для всего построенного жилого фонда.
А вот с чем препятствий не должно возникнуть - так это с появлением в домах роботов-домработников, которые взвалят на себя ведение хозяйства. Это одна из самых перспективных, наиболее прибыльных ниш для роботизации, где годовой спрос может исчисляться сотнями миллионов машин в год. Домашние роботы освободят для людей примерно столько же времени, сколько в ХХ веке освободили стиральные машины, автоматические котлы и другая бытовая техника.
И домашние роботы, и автоматизация «умного дома», подразумевающая включение его в некую корпоративную экосистему - примеры продуктов с высоким потенциалом концентрации рынка. Что благоприятно для выделения большого объема исследовательских ресурсов. Так что с коммерческой точки зрения подобный сценарий вполне обоснован.
Еще один важный сектор, который стоит упомянуть с точки зрения объема рынка - индустрия развлечений и впечатлений. Немногим менее 10% глобального ВВП. За сто последних лет эта индустрия существенно поменялась: не существовавшие в 1920-ых цифровые медиа успели оттеснить в тень физические форматы развлечений. Подбор развлечений стал автоматизированным (рекомендательные системы), а сами они - доступны в любой момент времени и в любой точке земного шара. Если о биологической и нейробиологической свободе Дарио Амодеи еще только мечтает, то «развлекательная свобода», по крайней мере в части цифровых развлечений, уже наступила.
Что могут принести нам следующие 100 лет, «сжатые» в 10-20 раз? Буквально недавно мы обсуждали, что сгенерированный ИИ развлекательный контент конкурентоспособен уже сегодня. Продлим этот тренд в будущее. И мы придем к тому, что почти весь контент уникальным образом генерируется для каждого человека. Еще один очевидный тренд - виртуальная реальность. Полное сенсорное погружение в выдуманный мир. Что, кстати, хорошо дополняет идею Амодеи об апгрейде «базовых ощущений людей».
И, в общем-то, у нас вновь начинают звучать антиутопические нотки. Что-то вроде пелевинской «Любви к трем цукербринам» «Иноземья» Теда Уильямса. Хотя, если подойти непредвзято, целый персональный мир - пожалуй, самый щедрый подарок, который можно получить от благодатно-любящей машины. Да, этот мир виртуален. Но ведь большего нам всё равно не светит.
Напоследок, раз уж в разговоре всплыл Пелевин, еще раз вспомним о стремлении капиталистов эксплуатировать потребительские желания. И затронем еще одно важное направление технического прогресса. Реклама, маркетинг и в целом методы управления коллективным бессознательным.
Прогресс за крайние 100 лет здесь был колоссальным. В 1924 все еще бытовали очень наивные представления о рекламе. Эпохальный труд Эдварда Бернейса «Пропаганда» выйдет только в 1928 году. Изменения в подходах к рекламе за этот промежуток можно сравнить с переходом от суеверных представлений к строгому научному методу. Реклама сначала из ремесла стала искусством, а затем из искусства превратилась в «промышленный» процесс.
21-ый век показал новые тренды, позволяющие интенсифицировать эксплуатацию потребителей: это персонализация рекламного месседжа и майнинг пользовательских данных. Продляя их в будущее и учитывая затронутый выше курс на виртуальность, мы вправе ожидать, что машинно-сгенерированные персональные миры будут представлять собой гигантскую, бесшовную и жутко затягивающую рекламную площадку. А вся жизнь пользователя, онлайновая и оффлайновая, будет скрупулезно отслеживаться, чтобы сделать эту рекламную площадку еще более увлекательной для пользователя и еще более эффективной для капиталиста.
Пока это звучит довольно мягко. Поэтому переформулируем так: капитализм получит возможность формировать окружающую пользователя реальность и делать это совершенно незаметно для последнего.
Также добавим, что эти технологии - практически идеальный продукт с точки зрения потенциала концентрации рынка. Поэтому речь идет даже не столько о "естественных трендах" в сфере развлечений - сколько о целенаправленном стремлении капитала развивать такой формат и монетизировать монопольное положение на этих рынках.
Такая степень эксплуатации уходит довольно далеко от изначального замысла Амодеи описать этически безупречный сценарий машинной «благодатной любви». Но мы вправе поставить вопрос о практической осуществимости этически безукоризненных сценариев. Может ли экономика работать на любви? Сомнительно. Зато она очень хорошо работает на деньгах. И коль скоро ключевые разработчики ИИ в данный момент представляют собой крупные капиталистические корпорации, нам стоит ожидать, что облик новой технологии будут формировать фундаментальные экономические интересы этих игроков. В частности, модель бесплатного контента, монетизируемого за счет рекламы, стала одной из самых характерных черт современного капитализма. Всё указывает на то, что в будущем такая модель может стать еще более доминирующей.
Подытоживая «коммерческую» часть наших рассуждений, помимо исцеления от болезней, старости и психологических проблем, мощный ИИ способен дать людям удобные и быстрые транспортные опции, освободить от домашней рутины и подарить самые захватывающие развлекательные впечатления (возможно, приправленные изощреннейшими техниками манипуляции).
Рассказав об интересах «злата», теперь обратимся к точке зрения «булата»: государственного сектора, обладателя монополии на насилие, уделяющего немало внимания разработке технических средств для реализации этого самого насилия.
До сих пор прием Амодеи - посмотреть на 100 лет назад и оценить, какой прогресс может быть сделан за один век - давал нам очень контрастную разницу. А вот в случае с государственным аппаратом мы увидим в лучшем случае косметические изменения. Действительно, мы можем открыть соответствующие страницы в «Экономике и обществе» Макса Вебера - и убедиться, что описания классика ничуть не утратили актуальности.
Означает ли этот консерватизм, что мощный ИИ не очень повлияет на технологии государственного управления? Видимо, в среднесрочной перспективе изменения здесь действительно будут идти медленнее. Как минимум, спрос на новые технологические решения со стороны государства будет гораздо более подавленным, нежели спрос на коммерческие технологии со стороны капиталистов.
Это не значит, что ИИ принципиально не способен что-то дать государственному управлению. Скорее наоборот, способен. И очень много. Некоторые конкретные детали такой эволюции государственного и политического управления мы обсудим в следующих частях.
Пока же мы остановимся на паре областей, к которым государство может действительно питать неподдельный интерес. Увы, этот интерес опять продиктован вещами, весьма далекими от «благодатной любви».
Первая - это уже упомянутые технологии влияния на общественное сознание. В политике с ними намного проще, чем в коммерции. Если коммерческая реклама должна заставить человека купить некий продукт, то в политике можно работать с гораздо более широким набором чувств: ненависти, сплоченности, доверия и т. п.
«Промывка мозгов» - неизменный атрибут для любой авторитарной антиутопии. Но если бы проблема касалась только автократий - которых не жалко - это было бы еще полбеды. К сожалению, технологии персонализированной пропаганды всё активнее берутся на вооружение и в демократических странах. Вспомним скандал вокруг «Кембридж Аналитика» и нынешние коллизии вокруг покупки «Твиттера» политически ангажированным Илоном Маском. Отметим растущие усилия государств по модерации контента, циркулирующего в Сети.
Причины популярности таких технологий просты. С одной стороны, они работают. С другой стороны, безнадежный консерватизм политического законодательства не позволяет ему вовремя подстроиться под появление всё новых техник манипуляции и эксплуатации. Да и хочется ли ограничений? Элиты, в принципе, устраивает ситуация, в которой они приобретают дополнительные инструменты управления общественным мнением.
И если вы прохладно отнеслись к идее, что капитализм будет формировать окружающую пользователя реальность совершенно незаметно для последнего - то представьте, что государство сможет формировать политическую реальность, окружающую избирателя.
Там же, где не получается диктовать свою волю при помощи манипуляций, государства могут прибегнуть к испытанному средству: насилию. Оружие всегда было приоритетным направлением научно-технологических изысканий государства - и очевидно, что усилия мощного ИИ не обойдут стороной эту сферу.
Целью этих научно-инженерных изысканий всегда было создание оружия, способного убить как можно больше людей за как можно меньшие деньги в произвольной точке нашей планеты. Любопытно, что в этой сфере тоже наблюдается некая «заморозка» прогресса: с конца 1960-ых продвижений в убойности и дешевизне практически не было, а в произвольности они были относительно невелики.
И это хорошо. Но, боюсь, появление «планеты гениев в дата-центре» может стать катализатором, вновь ускоряющим прогресс в вооружениях. Достаточно послушать государственных чиновников по обе стороны Тихого океана. Никто из них не говорит о продлении жизни до 150 лет и избавлении от психологических проблем. Зато каждый вещает о том, что « ИИ - это вопрос национальной безопасности!» Под «национальной безопасностью» вещатели понимают как раз таки имеющиеся возможности по уничтожению людей в произвольно выбранной точке земного шара. А также возможности диктовать свою волю другим - и ни слушать указаний ни от кого.
Поэтому политикам не нужны машины благодатной любви. Им нужны машины эффективных убийств. И они, скорее всего, получат этот опасный инструмент. ИИ-«гениям» будет сложно увеличить продолжительность человеческой жизни вдвое - а вот для того, чтобы укоротить ее вдвое, особых достижений в ИИ не требуется.
Остаётся лишь надеяться, что эти убойные возможности останутся лишь возможностями и никогда не будут применены в реальном конфликте. Что если политикам далеко до гениальности - то хотя бы примитивный инстинкт самосохранения у них должен наличествовать. Наконец, что решения будут принимать не примитивные люди, стремящиеся к диктату, а их более сообразительные алгоритмические заменители… Впрочем, об этом - уже в следующих частях.
V. Экономическое развитие и бедность
В предыдущей части мы отошли в сторону от повествования Дарио Амодеи, предпочитающего не вспоминать про более приземленные - равно как и менее этичные - аспекты ускорения научно-технологического прогресса. Пора возвращаться к миру благодатной любви и безукоризненной морали. Следующая часть эссе Амодеи посвящена тому, как плоды прогресса будут распределяться в нашем мире, далеко не однородном с экономической точки зрения.
Если в ускорение научного прогресса Амодеи верит основательно - для этого достаточно заполучить «планету гениев в дата-центре» - то насчет позитивного эффекта от ИИ на экономический рост и проблему неравенства у него есть некоторые сомнения. Наукой можно заниматься, не затрагивая людей. Экономика же упирается в человеческие интересы, часто противостоящие друг другу. Вдобавок экономика - очень сложная система со множеством обратных связей.
Поэтому неких грандиозных изменений, вроде решения искусственным интеллектом проблемы расчета в плановой экономике и делегирования экономических решений централизованному ИИ Амодеи не ждет. Он скорее описывает, как ИИ поможет повторить уже реализованные «истории успеха» в странах, которые сейчас отстают в социально-экономическом развитии. Грубо говоря, у нас есть пример Соединенных Штатов, достигших высокого уровня жизни - значит, мы знаем, что такой уровень жизни достижим и применительно к какой-нибудь Эфиопии.
Одно из направлений такого развития - гуманитарная помощь бедным странам, чтобы описанные во II части медицинские достижения ИИ были доступны всей планете.
«В целом, я думаю, что 5-10 лет - это разумный срок для того, чтобы значительная часть (возможно, 50%) преимуществ для здоровья, достигнутых ИИ, распространилась даже на самые бедные страны мира. Хорошей целью могло бы стать то, чтобы развивающийся мир через 5-10 лет после появления мощного ИИ был, по крайней мере, значительно более здоров, чем развитый мир сегодня, даже если он по-прежнему будет отставать от развитых стран».
Другое потенциальное достижение - полное искоренение голода на всей планете, за счет новых био- и сельхоз-технологий.
Еще одна глобальная проблема, взятая из списка целей устойчивого развития ООН - изменение климата. Технологические достижения ИИ-ученых позволят как минимум затормозить глобальное потепление: например, за счет прямого удаления СО2 из атмосферы или радикального удешевления клеточного мяса.
Насколько быстрым может быть догоняющий рост развивающихся стран в условиях ИИ-революции? Здесь самая крупная из имеющихся «историй успеха» - рост ВВП по ~10% в год в нескольких восточноазиатских странах на рубеже 20/21 веков. Достигнуты эти темпы были не всевидящими ИИ-гениями, а людьми из плоти и крови. Стало быть, ИИ может попробовать повторить эти достижения, пользуясь традиционными инструментами государственной экономической политики (т. е. без экстрима вроде подчинения всей экономики ИИ-Госплану).
И тут возникает вопрос, а отдадут ли власти бразды правления в руки ИИ-экономических советников? Здесь есть две перспективы: внутренняя политэкономическая и внешняя политическая. Первая касается того, что в недоразвитых странах элитки работают не столько на экономический рост, сколько на набивание собственных карманов (т. е. экономическими решениями управляют коррумпированные интересы). Соответственно, приход ИИ означает весьма болезненную для проворовавшихся элит смену приоритетов.
Вторая перспектива гораздо тоньше. Дело в том, что - забегая вперед - Дарио Амодеи не считает страны третьего мира достойными субъектами для прямого использования плодов мощного ИИ. Несмотря на весь гуманитарный пафос эссе. Амодеи полагает, что доступ к технологии должен оставаться в руках у мирового гегемона, США, и наиболее надежных их сателлитов. Внедрение ИИ-советников, таким образом, начинает сильно походить на добровольный отказ от экономического суверенитета в пользу мировой сверхдержавы. Этакий кибернетический вариант колониализма.
Впрочем, Амодеи, как вы уже поняли, старательно обходит такие неоднозначные моменты. Не получится с ИИ-экономическими советниками - значит, обойдемся. Благо в мире мощного ИИ будет еще несколько драйверов ускорения экономического роста. Это стандартная диффузия технологий, движимая рыночными силами. И это плоды нейробиологической свободы (см. часть III): повышение работоспособности человека за счет улучшения концентрации, мотивации и избавления от лишних переживаний. Если в предыдущих частях мы шутили о параллелях с сомой из «Дивного нового мира», то сейчас остается только шутить про амфетамины...
Кстати, насчет повышения работоспособности человека. Неужели в мире мощного ИИ для людей останутся рабочие места? Этой теме мы уделим отдельную часть; пока же отметим, что по этому драйверу Амодеи высказывается осторожно. Он не исключает, что быстрая автоматизация станет серьезным риском для экономически отсталых стран, закрывающим возможности для их догоняющего развития.
Если этого риска удастся избежать, то “[в] целом, сценарий, о котором можно мечтать, - возможно, цель, к которой стоит стремиться, - это ежегодный рост ВВП развивающихся стран на 20%, при этом по 10% будут обеспечиваться экономическими решениями с использованием ИИ и естественным распространением технологий, ускоренных с помощью ИИ, включая здравоохранение, но не ограничиваясь этим. Если это будет достигнуто, то через 5-10 лет страны Африки к югу от Сахары достигнут нынешнего уровня ВВП на душу населения Китая, а большая часть остального развивающегося мира достигнет уровня, превышающего нынешний ВВП США.”
Что ж, мечтать не вредно. Но конкретных механизмов догоняющего развития бедных стран в условиях ИИ-революции пока не видно. Скорее всего они найдутся - но будут иметь нерыночную природу, в русле затронутой выше гуманитарной помощи.
А что с другим типом неравенства, внутристрановым? В научной фантастике уже стало общим местом, что общество будущего характеризуется экстремальным расслоением. Если у нас зашла речь про такие вещи, как продление жизни в два раза, генетические и ментальные аугментации и т. п. вещи - естественной реакцией будет предположение, что все эти блага достанутся только избранной горстке элит.
Амодеи призывает избегать расхожих фантастических штампов. Особенно если речь идёт о развитых демократиях. «Я с большим оптимизмом смотрю на неравенство внутри стран, особенно в развитых странах, по двум причинам. Во-первых, в развитых странах рынки функционируют лучше, а рынки, как правило, способны со временем снижать стоимость дорогостоящих технологий. Во-вторых, политические институты развитых стран более чутко реагируют на интересы своих граждан и обладают большими государственными возможностями для реализации программ всеобщего доступа, и я ожидаю, что граждане будут требовать доступа к технологиям, которые столь радикально улучшают качество жизни».
Эмпирика в данном случае на стороне Амодеи. Абсолютное большинство сегодняшних продвинутых технологий (например, айфоны микроэлектроника или ЧатГПТ генеративный ИИ), в том числе в области медицины, абсолютно доступны для представителя среднего класса западной страны. И такая ситуация была характерна, начиная с Промышленной революции. Экономические законы благоволят равному доступу к технологиям. Максимизация прибыли требует не ограничения продаж за счет эксклюзивности - а, напротив, как можно более широкого масштабирования.
Впрочем, предупреждает Амодеи, свободный доступ к продвинутым технологиям вовсе не означает, что исчезнет проблема неравенства в богатстве.
Наконец, заключительная проблема, которой касается Амодеи, имеет даже не экономический характер. Это проблема людей, которые - в основном по идейным соображениям - отказываются от даров Любящих Машин.
Участь этих людей незавидна. «В конечном итоге могут возникнуть циклы отрицательной обратной связи, когда, например, люди, которые в наименьшей степени способны принимать правильные решения, отказываются от тех самых технологий, которые улучшают их способность принимать решения, что приводит к постоянно увеличивающемуся разрыву и даже созданию антиутопического низшего класса...»
Но что с этим делать? Тащить таких людей за шкирку, насильно, в светлое ИИ-будущее? Обрушить на них поток пропаганды? Вмешаться в работу их психики? Всё это выглядит не слишком этичным.
Амодеи признает, что простых решений здесь не существует. И успокаивает читателя тем, что исторически подобные группы с антитехнологическими настроениями были крайне малочисленны. «Индивидуумы, как правило, перенимают большинство медицинских и потребительских технологий, в то время как технологии, которые действительно тормозятся, такие, как атомная энергетика, как правило, отбираются в результате коллективных политических решений».
Я, в свою очередь, напомню Амодеи про полезные свойства дивёрсити. Разнообразие - это один из ключевых элементов устойчивости сложных систем. Кто знает, в чем больше риска для цивилизации? В наличии групп фанатиков-«натуралистов», живущих в отдельном технологическом укладе? Или же в том, что каждый человек на планете будет «ходить строем» под общий марш безусловного обожания ИИ, всецело завися от предоставляемых им средств к существованию? Какой бы благодатной ни была любовь машин - никто не обязан платить им взаимностью.
>> Продолжение: Часть VI>>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!