Дарио Амодеи: "Машины благодатной любви" (VIII)

Nov 18, 2024 14:31

<< Часть I - III
<< Часть IV - V
<< Часть VI
<< Часть VI I

VIII. Работа и смысл существования

В заключительной части эссе Дарио Амодеи, как и положено добросовестному исследователю, обращается к слабым сторонам своего фреймворка. В самом начале мы грубовато охарактеризовали его как «всё остаётся по старому, но мы свалим все проблемы на машины».



И вот вторая часть немного беспокоит Амодеи. Если мы свалим все проблемы и заботы на машины, если они полностью окружат нас благодатной любовью - то в чем тогда люди будут видеть смысл своей жизни?

Кроме того, эссе до сих пор не касалось очень важного вопроса: как будет выглядеть экономическая сторона обеспечения потребностей людей. Утрируя, если людям будет нечего есть - то им будет не до смысла жизни.

Поскольку экономические дебаты, особенно между левыми и правыми, традиционно имеют более жаркий градус, мы оставим их на десерт. И начнем со смысла существования.

Эта тема очень плотно перекликается с недавно вышедшим эссе Авитал Балвит, непосредственной подчиненной Амодеи. И влияние эссе Балвит на размышления своего директора вполне просматривается. Ниже мы еще сравним эти две работы.

Амодеи очень осторожен в формулировках и разумно исходит из принципа «я знаю только то, что ничего не знаю»: «...[Э]то более расплывчато и трудно предсказать заранее, поскольку связано с макроскопическими вопросами о том, как организовано общество - которые, как правило, решаются сами собой только со временем, децентрализованным образом. Например, исторические общества охотников-собирателей могли бы представлять, что жизнь бессмысленна без охоты и различных религиозных ритуалов, связанных с охотой, и вообразить, что наше сытое технологическое общество лишено цели. Возможно, они также не понимали, как наша экономика может обеспечить всех необходимым или какие функции люди могут выполнять с пользой в механизированном обществе».



Исследователь указывает на то, что смысл жизни не должен пропасть лишь потому, что машина начнет делать что-то лучше человека. Ведь сейчас мы не очень переживаем по поводу того, что другой человек справляется с чем-то лучше нас. Поэтичнее всего по этому поводу когда-то высказался американский ИТ-пионер Алан Кёртис Кэй:

"Некоторые люди беспокоятся, что искусственный интеллект заставит нас чувствовать себя неполноценными, но ведь любой человек в здравом уме должен испытывать комплекс неполноценности каждый раз, когда он смотрит на цветок".

Экономический аспект - зарабатывает ли какая-то деятельность деньги - тоже не выглядит сейчас руководящим фактором. Люди получают удовольствие - и зачастую огромное удовольствие - от занятий, не имеющих экономической ценности. «Я мог бы потратить целый день, пытаясь стать лучше в видеоигре», - признается Амодеи.



В 2016-2017 Амодеи зависал в видеоиграх даже на работе. Но не для того, чтобы убить время - он пытался научить играть в них машины
«В любом случае, я думаю, что смысл в основном проистекает из человеческих взаимоотношений и взаимосвязей, а не из экономического труда. Людям действительно нужно чувство достигнутой цели, даже чувство соперничества, и в ИИ-мире вполне возможно потратить годы на решение какой-нибудь очень сложной задачи со сложной стратегией, подобно тому, что люди делают сегодня, когда приступают к исследовательским проектам, пытаются стать голливудскими актерами или основать компании».

Другими словами, смысл жизни - в людях, которые находятся рядом с нами. А не в зарабатывании денег. Очень мудрое заключение.

Несмотря на позитивный посыл, эта часть эссе Амодеи сильно проигрывает по проработанности и обстоятельности вышедшим ранее размышлениям Авитал Балвит. Конечно, Амодеи берется описывать гораздо более широкий набор тем - однако и на фоне других частей тезисы о смысле жизни выглядят слабовато. Дарио, в следующий раз бери Авитал в соавторы :)

Переходим к экономическому будущему людей. В краткосрочной перспективе Амодеи придерживается гипотезы о сохранении у работников сравнительных преимуществ перед ИИ. Эта гипотеза предполагает, что до тех пор, пока ИИ может выполнять только 90% трудовых обязанностей, оставшиеся 10% сделают человека критическим элементом процесса производства. Это резко поднимет производительность человеческого труда. Вслед за ней вырастут и зарплаты. А резко выросшая производительность труда создаст гигантское количество новых рабочих мест там, где до того низкая производительность делала эти места невыгодными.



И в итоге, постулирует эта сверхоптимистичная гипотеза, никакой технологической безработицы не возникнет. А может даже возникнуть нехватка человеческих кадров.

Слабое место теории сравнительных преимуществ заключается в том, что она требует наличия этих самых преимуществ. Требует разницы между машиной и человеком. До сих пор автоматизация не покушалась на эту разницу: у человека была монополия на когнитивные навыки и очень сильные позиции в адаптивных тонких физических манипуляциях. Где тоже в большинстве случаев надо обрабатывать много информации.

Но технологии искусственного интеллекта буквально ставят целью устранить разницу между машиной и человеком. То есть свести на нет сравнительные преимущества.



Еще один возможный «оптимистический» аргумент в контексте гипотезы сравнительных преимуществ - это выигрыш людей в эффективности. То есть в затратах на выполнение работы. Наконец, если эти затраты на машины и затраты на людей плохо конвертируются друг в друга - то сравнительное преимущество тоже получает шанс на реализацию.

Первый аргумент пока выглядит нереалистичным. Особенно в свете обещаний многократного роста производительности труда и зарплат. Это сильно повышает стоимость человеческого «критического элемента». А значит, делает его неэффективным. И напротив, эффективность машин в рамках третьей и четвертой экспонент ИИ растёт очень сильными темпами. Так, самые свежие оценки для 4-ой экспоненты, алгоритмической эффективности, показывают поистине феноменальную скорость: за год эффективность увеличивается в 2,5 раза!

А вот второй аргумент вполне имеет шансы сработать. Всё дело в так называемых «бутылочных горлышках» цепочки добавленной стоимости ИИ. Чтобы создать «страну гениев в дата-центре» или «страну работников в дата-центре», необходимо гигантское число специализированных микрочипов. Но мощности по их выпуску ограничены. И загружены сейчас почти на 100%. С мощностями по выпуску мощностей для микрочипов такая же история. И в итоге может оказаться, что мы попросту физически не в состоянии выпускать достаточные объемы вычислительной инфраструктуры для ИИ, если эта технология принципиально станет готова заменить миллиарды человеческих работников.



Этот сценарий нехватки производственных мощностей пока выглядит единственным реалистичным шансом на спасение человеческих работников от тотального замещения искусственным интеллектом.

Однако рано или поздно, признает Амодеи, ИИ станет настолько доступным, дешевым и способным, что роль человека в производстве начнет быстро угасать. Что тогда?

“...[В]озникнет необходимость в более широком общественном обсуждении того, как должна быть организована экономика”, - полагает исследователь, вновь не берясь навязывать конкретные рецепты и уповая на демократические методы.

«Хотя это может показаться безумным, факт остается фактом: в прошлом цивилизация успешно преодолевала серьезные экономические сдвиги: от охоты-и-собирательства к сельскому хозяйству, от сельского хозяйства к феодализму и от феодализма к индустриализму. Я подозреваю, что потребуется что-то новое и более странное, и это что-то, что никто по сей день не продумал достаточно хорошо».

Другими словами, Амодеи не видит достойных экономических фреймворков для посттрудовой экономики, несмотря на уже немалый набор существующих предложений, от гарантированного минимального дохода до полностью автоматизированного коммунизма роскоши Аарона Бастани.



Не берясь выносить окончательные суждения о жизнеспособности тех или иных идей, Амодеи признает, что частью решения мог бы стать большой базовый универсальный доход. Более оригинальная его идея звучит так:

“Это может быть капиталистическая экономика ИИ-систем, которые затем раздают ресурсы (в огромных количествах, поскольку общий экономический пирог будет гигантским) людям, основываясь на некоторой вторичной экономике, вращающейся вокруг того, что системы ИИ считают целесообразным поощрять в людях (основываясь на неких соображениях, в конечном счете, вытекающих из человеческих ценностей)”.

То есть это двухуровневая, или двухконтурная экономическая система. Внешний контур, производительный, представляет собой капитализм. Капитализм, в свою очередь, означает, что ресурсы перераспределяются сообразно эффективности их использования: кто производит блага эффективнее - тому достается больше ресурсов.

Внутренний контур, человечно-потребительский, живет на некий аналог «налога» на капиталистическую ИИ-экономику. Но внутри него капитализм упраздняется (марксистам это должно понравиться!). А ресурсы распределяются, скорее всего, сообразно этичности поведения получателей машинных даров.



Кажется, здесь есть что-то религиозное. Причем фундаментально религиозное. Вспомним авраамические религии: за соблюдение морали они обещают человеку после смерти существование в блаженстве и изобилии, а вот грешнику - муки и лишения. Вспомним буддизм и индуизм, обещающие за соблюдение морали перерождение в более комфортные и престижные условия, а за несоблюдение - более унизительное положение.

Впрочем, не факт, что Амодеи копает настолько глубоко. В обсуждении возможных вариантов он ссылается на роман Кори Доктороу «Down and Out in the Magic Kingdom», социальную НФ. В романе в качестве единственного аналога валюты остались уаффи-пойнты, отражающие репутацию владельца. Люди раздают их друг другу. Одним словом, карма (роман был издан еще до этого нашего Веба 2.0, в 2003). Или, для наших китайских товарищей, социальный рейтинг.

Так идиллическое воплощение Рая на Земле или же всё-таки цифровой концлагерь имени Мао? Не знаю. Не знает и Амодеи. Но предупреждает - и я с ним согласен - что для достижения оптимального для всех исхода понадобится немало экспериментов и итеративного совершенствования.

...Однако я знаю, что мы не должны подвести машин. Будет неправильно, если их благодатная любовь останется неотвеченной. Позитивный сценарий, описанный Дарио Амодеи, подразумевает, что машины будут делать всё, что способны, для нашего блага. Человеческого блага.


И чтобы эти усилия не были напрасны, мы, люди, тоже должны прилагать все усилия для достижения нашего, человеческого блага. Глупо надеяться на соблюдение машинами этических идеалов, если сами люди продолжат считать их чем-то второстепенным.

Самой опасной угрозой для человека - равно как и для оптимистичных планов на светлое и справедливое будущее с продвинутым искусственным интеллектом - продолжает оставаться другой человек.

Прямоходящая обезьяна, упрямо не желающая расставаться со своим эволюционным багажом. Предпочитающая конфликт, доминирование, эксплуатацию и двойные стандарты. Видящая мир исключительно в терминах «хищник»-«жертва».


У религии не получилось сделать из обезьяны человека. Не получилось у «развитого социализма». Не получилось у либеральной демократии. Не получилось у капитализма (впрочем, он почти и не старался).

Теперь за дело должны взяться машины благодатной любви. Я надеюсь - очень надеюсь - что они всё-таки доведут его до конца. Понадобится немало экспериментов и итеративного совершенствования. Но у них есть неплохой шанс.

Преодоление обезьяннего эволюционного багажа было бы самым ценным даром машин человечеству. Если мы хотим, чтобы у нашей цивилизации было будущее - человек должен перестать быть самой опасной угрозой для другого человека.

Я спорил со многими идеями, которые Амодеи высказал в своём объемном эссе. Но я думаю, что с он бы согласился с важностью такого скачка вперед, такой кульминации человеческой эволюции. Поэтому закончим этот обзор теми же словами, которыми заканчивает эссе Амодеи:

«...Пускай это не было неизбежностью, но, как минимум, в рамках статистической тенденции человечество уже двигалось к этому. ИИ просто предоставляет возможность быстрее привести нас туда - сделать логику более четкой, а цель - более ясной.

Как бы там ни было, это вещь необыкновенной красоты. У нас есть возможность сыграть хотя бы малую роль в том, чтобы воплотить её в жизнь».

_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!

ИИ, онолитека, роботизация, социодинамика, безработица, занятость, прогнозирование

Previous post Next post
Up