ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №1
«Мы стоим на пороге изменений, сравнимых с зарождением человеческой жизни на Земле».
/Вернор Виндж/
Причина, по которой эта (и другие) статья появилась на свет, проста: возможно, искусственный интеллект - не просто важная тема для обсуждения, а самая важная в контексте будущего.
Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, признают, что оставлять без внимания эту тему нельзя.
Что значит стоять на пороге таких изменений?
Вроде бы ничего особенного. Но вы должны помнить, что находиться на графике в таком месте означает то, что вы не знаете, что находится справа от вас. Вы должны ощущать себя примерно так:
Ощущения вполне нормальные, полет проходит успешно.
Представьте, что машина времени перенесла вас в 1750 год - во времена, когда мир испытывал постоянные перебои с поставками электричества, связь между городами подразумевала выстрелы из пушки, а весь транспорт работал на сене.
Допустим, вы попадаете туда, забираете кого-нибудь и приводите в 2017 год, показать, как оно тут все.
Мы не в состоянии понять, каково ему было бы увидеть все эти блестящие капсулы, летящие по дорогам; поговорить с людьми по ту сторону океана; посмотреть на спортивные игры за тысячу километров от него; услышать музыкальное выступление, записанное 50 лет назад; поиграть с волшебным прямоугольником, который может сделать снимок или запечатлеть живой момент; построить карту с паранормальной голубой точкой, обозначающей его местоположение; смотреть на чье-то лицо и общаться с ним за много километров и так далее. Все это - необъяснимое волшебство для почти трехсотлетних людей. Не говоря уже об Интернете, Международной космической станции, Большом адронном коллайдере, ядерном оружии и общей теории относительности.
Такой опыт для него не будет удивительным или шокирующим - эти слова не передают всей сути мысленного коллапса.
Наш путешественник вообще может умереть.
Но есть интересный момент.
Если он вернется в 1750 год и ему станет завидно, что мы захотели взглянуть на его реакцию на 2017 год, он может захватить с собой машину времени и попробовать проделать то же самое, скажем, с 1500 годом.
Прилетит туда, найдет человека, заберет в 1750 год и все покажет.
Парень из 1500 года будет шокирован безмерно - но вряд ли умрет.
Хотя он, конечно, будет удивлен, разница между 1500 и 1750 годом куда меньше, чем между 1750 и 2015. Человек из 1500 года удивится некоторым моментам из физики, поразится тому, какой стала Европа под жесткой пятой империализма, нарисует в голове новую карту мира. Но повседневная жизнь 1750 года - транспорт, связь и т. п. - вряд ли удивит его до смерти.
Нет, чтобы парень из 1750 года повеселился так же, как мы с ним, он должен отправиться куда дальше - возможно, год так в 12 000 до н. э., еще до того, как первая сельскохозяйственная революция позволила зародиться первым городам и понятию цивилизации.
Если бы кто-либо из мира охотников-собирателей, со времен, когда люди в большей степени были еще очередным животным видом, увидел огромные человеческие империи 1750 года с их высокими церквями, судами, пересекающими океаны, их понятие быть «внутри» здания, все эти знания - он бы умер, скорее всего.
И тогда, после смерти, он бы позавидовал и захотел сделать то же самое.
Вернулся бы на 12 000 лет назад, в 24 000 год до н. э., забрал бы человека и притащил его в свое время. И новый путешественник сказал бы ему: «Ну такое, хорошо, спасибо».
Потому что в этом случае человеку из 12 000 год до н. э. нужно было бы вернуться на 100 000 лет назад и показать местным аборигенам огонь и язык в первый раз.
Если нам нужно перевезти кого-то в будущее, чтобы тот был до смерти удивлен, прогресс должен пройти определенное расстояние.
Должна быть достигнута Точка Смертельного Прогресса (ТСП).
То есть, если во времена охотников-собирателей ТСП занимала 100 000 лет, следующая остановка состоялась уже в 12 000 году до н. э. За ней прогресс шел уже быстрее и кардинально преобразил мир к 1750 году (ориентировочно). Потом понадобилось пару сотен лет, и вот мы здесь.
Эту картину - когда человеческий прогресс движется быстрее по мере течения времени - футуролог Рэй Курцвейл называет законом ускоряющейся отдачи человеческой истории.
Это происходит, потому что у более развитых обществ есть возможность двигать прогресс более быстрыми темпами, нежели у менее развитых обществ. Люди 19 века знали больше, чем люди 15 века, поэтому неудивительно, что прогресс в 19 веке шел более стремительными темпами, нежели в 15 веке, и так далее.
Таким образом, чем больше достижений, тем быстрее происходят изменения. Но разве это не должно оставлять нам определенные намеки на будущее?
Почему же, когда мы сталкиваемся с заявлениями вроде «мир через 35 лет изменится до неузнаваемости», мы скептически пожимаем плечами?
Есть три причины нашего скепсиса относительно прогнозов будущего:
1. Когда дело доходит до истории, мы думаем прямыми цепочками. Пытаясь представить прогресс следующих 30 лет, мы смотрим на прогресс предыдущих 30 как на индикатор того, сколько всего, по всей вероятности, произойдет. Когда мы думаем о том, как изменится наш мир в 21 веке, мы берем прогресс 20 века и добавляем его к 2000 году. Такую же ошибку совершает наш парень из 1750 года, когда достает кого-то из 1500 года и пытается его удивить. Мы интуитивно думаем линейным образом, хотя должны бы экспоненциальным. По существу, футуролог должен пытаться предугадать прогресс следующих 30 лет, не глядя на предыдущие 30, а судя по текущему уровню прогресса. Тогда прогноз будет точнее, но все равно мимо ворот. Чтобы думать о будущем корректно, вам нужно видеть движение вещей в куда более быстром темпе, чем они движутся сейчас.
2. Траектория недавней истории зачастую выглядит искаженно.
- Во-первых, даже крутая экспоненциальная кривая кажется линейной, когда вы видите небольшие ее части.
- Во-вторых, экспоненциальный рост не всегда гладкий и однородный. Курцвейл считает, что прогресс движется змееподобными кривыми.
Такая кривая проходит через три фазы:
1) медленный рост (ранняя фаза экспоненциального роста);
2) быстрый рост (взрывная, поздняя фаза экспоненциального роста);
3) стабилизация в виде конкретной парадигмы.
Если вы взглянете на последнюю историю, часть S-кривой, в которой вы в данный момент находитесь, может скрывать от вашего восприятия скорость прогресса. Часть времени между 1995 и 2007 годами ушла на взрывное развитие Интернета, представление Microsoft, Google и Facebook публике, рождению социальных сетей и развитию сотовых телефонов, а затем и смартфонов. Это была вторая фаза нашей кривой. Но период с 2008 по 2015 год был менее прорывным, по крайней мере на технологическом фронте. Те, кто думают о будущем сегодня, могут взять последние пару лет для оценки общего темпа прогресса, но они не видят большей картины. На деле же новая и мощная фаза 2 может назревать уже сейчас.
3. Наш собственный опыт делает нас ворчливыми стариками, когда речь заходит о будущем. Мы основываем свои идеи о мире на собственном опыте, и этот опыт установил темпы роста в недавнем прошлом для нас как «само собой разумеющееся». Также и наше воображение ограничено, поскольку использует наш опыт для прогнозирования - но чаще всего у нас просто нет инструментов, которые позволяют точно предположить будущее. Когда мы слышим прогнозы на будущее, которые расходятся с нашим повседневным восприятием работы вещей, мы инстинктивно считаем их наивными. Если бы я сказал вам, что вы доживете до 150 или 250 лет, а может быть, и вовсе не умрете, вы инстинктивно подумаете, что «это глупо, я знаю из истории, что за это время умирали все». Так и есть: никто не доживал до таких лет.
Но и ни один самолет не летал до изобретения самолетов.
Таким образом, хотя скепсис кажется вам обоснованным, чаще всего он ошибочен. Нам стоит принять, что если мы вооружаемся чистой логикой и ждем привычных исторических зигзагов, мы должны признать, что очень, очень и очень многое должно измениться в ближайшие десятилетия; намного больше, чем можно предположить интуитивно. Логика также подсказывает, что если самый продвинутый вид на планете продолжает делать гигантские скачки вперед, быстрее и быстрее, в определенный момент скачок будет настолько серьезным, что он кардинально изменит жизнь, какой мы ее знаем. Нечто подобное случилось в процессе эволюции, когда человек стал настолько умен, что полностью изменил жизнь любого другого вида на планете Земля.
ПУТЬ К СВЕРХИНТЕЛЛЕКТУ
Ничто так не раскрывает сложность человеческого интеллекта, как попытка создать компьютер, который будет так же умен. Строительство небоскребов, полеты в космос, секреты Большого Взрыва - все это ерунда по сравнению с тем, чтобы повторить наш собственный мозг или хотя бы просто понять его.
В настоящее время мозг человека - самый сложный объект в известной Вселенной.
Профессор Линда Готтфредсон описывает интеллект как «в общем смысле психический потенциал, который, наряду с другими вещами, включает способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и извлекать опыт».
ОИИ должен уметь делать все это так же просто, как делаете вы.
Общий (сильный) искусственный интеллект. Иногда также называют ИИ человеческого уровня. ОИИ относят к компьютеру, который умен, как человек - машина, которая способна выполнять любое интеллектуальное действие, присущее человеку.
Стремительное развитие аппаратного обеспечения и эксперименты с программным обеспечением текут параллельно, и ОИИ может появиться быстро и неожиданно по двум основным причинам:
1. Экспоненциальный рост идет интенсивно, и то, что кажется черепашьими шагами, может быстро перерасти в семимильные прыжки - эта гифка хорошо иллюстрирует этот концепт:
Когда компьютеры превзойдут человека в мыслительных способностях?
Объем озера Мичиган (в унциях жидкости) равен объему нашего мозга (в операциях в секунду). Вычислительная мощь удваивается каждые 18 месяцев. При таком темпе вы долгое время не будете видеть никаких результатов, но затем все случится моментально...
2. Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но затем один прорыв мгновенно меняет скорость продвижения вперед (хороший пример: во времена геоцентрического мировосприятия, людям было сложно рассчитать работу вселенной, но открытие гелиоцентризма все значительно упростило). Или, когда дело доходит до компьютера, который улучшает сам себя, все может казаться чрезвычайно медленным, но иногда всего одна поправка в системе отделяет ее от тысячекратной эффективности по сравнению с человеком или прежней версией.
Такое развитие событий может нас весьма и весьма удивить.
Дело в том, что, с нашей точки зрения:
а) единственный критерий, который позволяет нам определять качество интеллекта, это интеллект животных, который по умолчанию ниже нашего;
б) для нас самые умные люди ВСЕГДА умнее самых глупых.
Примерно так:
То есть пока ИИ просто пытается достичь нашего уровня развития, мы видим, как он становится умнее, приближаясь к уровню животного. Когда он доберется до первого человеческого уровня - Ник Бостром использует термин «деревенский дурачок», - мы будем в восторге: «Ух ты, он уже как дебил. Круть!».
Единственное но заключается в том, что в общем спектре интеллекта людей, от деревенского дурачка до Эйнштейна, диапазон невелик - поэтому после того, как ИИ доберется до уровня дурачка и станет ОИИ, он внезапно станет умнее Эйнштейна.
Итак, все наши современные модели по достижению ОИИ включают вариант, когда ИИ самосовершенствуется.
И как только он становится ОИИ, даже системы и методы, с помощью которых он вырос, становятся достаточно умны, чтобы самосовершенствоваться - если захотят. Возникает интересное понятие: рекурсивное самосовершенствование.
Работает оно примерно так:
Некая система ИИ на определенном уровне - скажем, деревенского дурачка - запрограммирована на улучшение собственного интеллекта. Развившись - скажем, до уровня Эйнштейна, - такая система начинает развиваться уже с интеллектом Эйнштейна, ей требуется меньше времени на развитие, а скачки происходят все большие. Они позволяют системе превзойти любого человека, становятся все больше и больше. По мере быстрого развития, ОИИ взмывает до небесных высот в своей интеллектуальности и становится сверхразумной системой ИСИ.
Этот процесс называется взрывом интеллекта, и это ярчайший пример закона ускоряющейся отдачи.
Чтобы охарактеризовать сверхинтеллект такого масштаба, у нас даже не найдется подходящих терминов. В нашем мире «умный» означает человека с IQ 130, «глупый» - 85, но у нас нет примеров людей с IQ 12 952.
Наши линейки на такое не рассчитаны.
История человечества говорит нам ясно и четко: вместе с интеллектом появляется власть и сила.
Это значит, что когда мы создадим искусственный сверхинтеллект, он будет самым мощным созданием в истории жизни на Земле, и все живые существа, включая человека, будут всецело в его власти - и это может случиться уже через двадцать лет.
Если наши скудные мозги были в состоянии придумать Wi-Fi, то что-то умнее нас в сто, тысячу, миллиард раз с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени.
Все, что можно назвать магией, любая сила, которую приписывают всемогущему божеству, - все это будет в распоряжении ИСИ.
Создание технологии, обращающей вспять старение, лечение любых болезней, избавление от голода и даже смерти, управление погодой - все внезапно станет возможным.
Умнейшие люди нашей планеты сходятся во мнении, что как только в мире появится искусственный сверхинтеллект, это ознаменует появление бога на Земле.
И остается важный вопрос.
Будет ли он добрым богом?
/Источник/
