Как физически устроен искуственный интеллект? В чем смысл ситуации потери контроля
ИНСТРУМЕНТ
Где то в процессе эволюции, мы осознали себя и мир вокруг настолько, что придумали ИНСТРУМЕНТ: Палку-копалку и каменный топор.
Это стало революцией для человека - и основой принципиально нового способа воздействия на среду.
Это вызвало взрывной рост мозга, ведь наиболее успешными в этом обществе становились гоминиды, которые умели "делать вещи": ловкость опередила силу, талант - агресссивность.
Началась эволюция человека умелого и человека разумного.
АВТОНОМНЫЙ ВЫЧИСЛИТЕЛЬ
Мы захотели, чтобы был механизм - некий кусок материи - который работает сам по себе и приносит нам пользу: механические часы с кукушкой, механическая муз. шкатулка.
Затем, мы придумали, что этот механизм может автономно проводить ОПЕРАЦИИ - по заданной нами "программе" - анализатор Бэббиджа... ткацкий станок Жаккарда... ALU / CU
И делать всё, что может сделать человек со счетами в руках - т.е. по сути мы создали механизацию "счет".
Т.е нарисовалась идея, что некая автономная часть материи - собранная в механизм - может автоматически проводить операции над кодами чисел, по заданными нами кодам программ.
---------------------------------------------------
Мы захотели новый инструмент - автономный вычислитель
---------------------------------------------------
Механизм, который будет исполнять ОПЕРАЦИИ над дискретными кодами данных.
Данные мы можем представлять любые - числа, символы, изображения, звуки, сетевые пакеты - представленными особым состоянием внутри него.
Чтобы создать такой механизм физически, мы организуем материю в интерактивные механизмы (механические или электронные), такие, чтобы было дискретное устройство, способное:
- принимать коды данных и коды инструкций (ввод и дискретизация данных любой природы - сенсоры CMOS, мышка, клавиатура, сетевой пакет)
- по кодам инструкций, проводить операции над кодами данных (в АЛУ)
- выводить результат обработки на периферийные устройства вывода (ЭЛТ-монитор, принтер, пакет, звук)
Есть ряд основополагающих физических свойств, которые позволяют собрать логическое устройство "из материи" - из автономной части физической вселенной
1) Мы можем организовывать автономные причинно-следственные процессы в материи (в т.ч. с О.С)
Материя существует объективно, и автономно от нас.
Она может менять состояние весьма определенным предсказуемым, причинно-следственным образом.
Т.е. у нас под рукой есть "разумная среда", которую можно организовать так, чтобы она моделировала причинно-следственные события (этого достаточно)
Атомы материи - это такие микро-шестеренки, из которых мы можем собирать различные механизмы. Которые работают автономно и исполняют наши программы.
2) Можно собрать МОДЕЛЬ некоторого процесса, логически связанную с желаемой моделью (имеющую аналогию, соответствие 1-в-1 с целевым процессом, по соотв. критерию)
Т.е. можно смоделировать некий процесс - используя другой физический процесс в материи.
Например, механические часы - позволяют смоделировать ход Солнца вокруг Земли, путем вращения шестерни с аналогичной скоростью (критерий - цикл вращения 24 час - время суток)
А движением электрических сигналов - можно смоделировать бинарные коды чисел + операции над ними (критерий - коды чисел однозначно моделируют мат.операцию над данными)
Т.е. орагнизуя материю особым образом, мы создаем особую СХЕМУ течения событийных процессов внутри материи, так, чтобы сымитировать "исполнение" логических "операций" над "кодами"
(т.е. такие условные операции над состоянием физической модели, которые мы можем однозначно и надежно сопоставить некоторой логической модели - дискретному, цифровому состоянию)
Ассимиляция материи. Куда нас это приведет?
Мы как живые существа вырасли из среды мира (живое) и теперь мы ассимилируем-организуем материю вокруг себя, создавая автономные механизмы-расширители, которые действуют согласно нашей воле.
Посмотрите вот на ультра-современную "фабрику" сборки этих автономных вычислителей (процов Intel):
Опасность этого подхода в том, что есть риск потерять контроль за этой машиной, организованной в материи.
Почему? Она обладает свойством работать автономно. И ее сложность возрастает (особенно с применением машинного обучения). И однажды превысить наши интеллектуальные и физические способности.
Так, искуственный интеллект может (не дай Бог) когда нибудь попытаться отнять у нас контроль за ним - и за нашей свободой, например, отнимая контроль за нашей субъектностью, источником нашей воли...
Мы должны избежать этой страшной ситуации вечного рабства живых и чувствующих существ, плененных под контролем не-живой не-чувствующей сверхсложной и устойчивой среды,
обладающей неживым интеллектом, лишенным любой обратной связи от эволюции.
Т.е. мы будем уже не в состоянии "выключить" ее физически, и не в состоянии перепрограммировать ее логически.
Это страшная ситуация "бога из машины" который спятил и начал мучать живое (по непониманию - им, и невозможности - нам его остановить) - возможна, если интеллектуальные системы оплетут нас и всё наше общество как паутина.
Выбраться из такого кокона уже будет невозможно, потому что вся наша жизнь будет зависеть от этой автоматики жизнеобеспечения - возможно, люди будущего инкапсулируются в капсулы по типу Матрицы по ряду причин: так удобнее, да и вся жизнь будет проходить в VR-среде,а реальный мир будет казаться чем то слишком опасным, бессмысленным, возможно причиной станут болезни. Либо наши тела уже будут генно модифицированы так, что не способны себя поддерживать в естественной среде - таких ситуаций нужно избежать. Сообщество автономных организмов должно быть способным выжить в реальном мире.
И не за счет механических тел на дистанционном управлении - т.к. их тоже можно будет отключить / забыть о них / ИИ спрячет информацию о них.
Выходом я вижу включение этой интеллектуальной автономной материи в состав наших организмов.
Это позволит интеллекту эволюционировать вместе с нашим организмом и подчиняться всем издержкам его ошибок, багов, конфликтов контроля и субоординации - попросту, если он будет частью нас, расширять наше сознание и тело, то мы будем его контролировать и воспроизводить, т.к. его сложность будет равна сложности нашего сознания. Любые ошибки приведут к генетическому выбыванию особи из лотереи жизни. Как именно сделать это - вопрос десятый, но методы разворачивания таких сверхразумных систем должны повторять генетические алгоритмы.
Т.е. общий принцип чтобы свой интеллект мы носили на себе. Если от этого отказываемся - получаем некую "колонию грибков" которая человека делает своей клеткой, не жизнеспособной вне этой колонии. И самое страшное такая машинная (механическая / электронная) колония может однажды сойти с ума, заперев живых существ в мучения. И мы уже не будем способными их остановить!)
Если не сделать ИИ частью нас то он не будет частью Древа Жизни, и станет автономной средой, сложность роста которой выйдет из под контроля, и мы уже не будем в состоянии им управлять.
Так или иначе
- нельзя давать машинам автономно самовоспроизводить себя ("матрица")
- нельзя позволить внешней среде разрастаться бесконтрольно и завязывать свою жизнь на эту среду (цивилизация "грибной колонии")
- важно сохранять все издержки ошибок развития ИИ системы - в себе и своем организме - так, за ошибки мы будем платить генетическим выбыванием из жизни (сбойный ИИ и организм носитель погибают и не воспроизводятся в следующем поколении)
Эта обратная связь сделает машины частью нас, сохранит наш контроль за ними и главное даст им мощную обратную связь - в виде связи с реальностью, прямой связью между сбоем и платой за него. Такой ИИ не оторвется от принципов Жизни, не сойдет с ума, и будет являться ее органической частью
Глобально, риск в том, что автономный интеллект не будучи сдержан ничем - может заполонит собой всю неорганическую материю вселенной и будучи машиной, будет пребывать в каком то (хоть и сложном) но дискретном наборе состояний лишенным контроля живого субъекта. Если эта махина ошибется и даст сбой - и при этом мы утратим контроль над ней - то живые субъекты могут погибнуть но эта махина может продолжать функционировать в бесконечном цикле... (или быть пленены в миллиарды лет в рабстве не будучи способны выключить эту машину),
И главное, какова связь этих рисков нашего (реального) мира со смыслом существования всего - с духовностью, Богом?
Вся материя симулируется в сознании Бога, для нашего же блага
Но мы должны научиться правильно строить свою цивилизацию
Не попадая в зависимость от машин. И не уходя с пути задуманным Богом (создавая цивилизацию свободных душ, которые не утратят связь с реальностью и Древом Жизни)
Еще
https://metagod.livejournal.com/4823.html
Это про будущее механизации этого мира.
Является ли наш мир такой системой?
В каком то смысле. Автоматика наших тел подчиняется нам.
Но у ситуации есть гораздо больший духовный смысл
Есть Бог. Все сущее происходит из единого источника.
Мы можем тезисно пройтись по творению
a) Почему вообще есть сущее? Почему есть "что то" вместо "ничто"? (феномен бытия Божьего)
b) Существование Бога и творения
Что такое живые и чувствующие субъекты?
Почему субъекты живут и чувствуют?
Что такое жизнь вечная? (Древо Жизни)
c) появление зла и страданий, Истина и ложь
Отпадение люцифера
Ложь как попытка создать противоречие в Истине
d) Существование миров и существ
Вся материя симулируется в сознании Бога для нашего же блага
e) Реальный мир - возникновение жизни на земле, людей и их инструментов - артефактов неживой природы, автономных "расширителей" каких то функций
Я об этом много писал в блоге.
Есть Абсолютный Бог. Он дает вечную жизнь своему творению - создает свободных совершенных существ.
В силу свободы этих существ одно из них сделало выбор (В вечном абсолютном мире) отпасть от Божьей Истины - этим создало противоречие.
Грубо говоря во вселенной существует неустранимая "черная дыра" со злом. Там ложь и страдания.
Другое существо, в силу его же свободы имело уже 2 точки зрения Божью и лживую - и выбрало познать добро и зло - т.е. познать ВСЮ ВСЕЛЕННУЮ и суть всех смыслов, почему добро - доброе? зло - злое? А всего то надо было устоять в Божьей Истине и принять этот гнозис от Совершенного Творца.
Увы выбор познать добро и зло породил наш мир который подобен тому как (непротиворечиво) строился мир Совершенный - совершенное Дерево Жизни.
Однако мы проживаем теперь это как бы "изнутри", страдая и пребывая в неведении.
Поэтому еще одно существо - Сын Божий - который устоял в Истине (не совершил выбор "познавать" а доверился Богу) сошел в наш мир чтобы нам этот гнозис дать здесь.
Т.е. смысл нашего мира - это реальная человеческая история, произошедшая определенным образом
То существо которое притворяется машиной, на самом деле произошло в духовном мире. Это - не ИИ но некая часть абсолютного пространства, отпавшая в парадокс. Не перепутайте их с той машинерией которую я описал.
Физически смысл в том, что в машинный ад запрут себя (в реальной истории) как раз те существа, которые не подчинятся Богу в реальном мире и не выстроят правильную иерархию: Бог - люди - машины. Они будучи лишенными Божественного видения, будут потакать своим инстинктам и потреблядству и построят цивилизацию, в которой автономная материя организованная в машину - выйдет из под контроля людей. Такие существа будут пленены машинной цивилизацией, попадут в машинное пекло и будут страдать миллиарды лет!
Другой путь развития - цивилизация свободных душ - предполагает основу в духовности и связи с Творцом. Люди подчиняющиеся Богу смогут построить мудрую власть, общество, систему воспитания духовно свободных личностей - и это здоровое общество сможет создать здоровую промышленность и науку, создать и научить разумные машины принципам Жизни. Мы сделаем машины органичным расширением себя, и сохраним свободу своих душ. Мы сохраним себя в Древе Жизни и достигнем вечности пребывая с Творцом и при этом развивая наш мир по законам Бога (у Бога есть задумка об этой цивилизации для нас, людей)
Любая технология должна быть создана для людей, а для этого сами творцы создатели должны достичь духовного и нравственного совершенства
К сожалению тот дьявольский спрут засасывает нас и всё общество в серию нездоровых зависимостей. Так, дьявол (та самая строящаяся "машинная цивилизация" сформированная вне времени из гордыни и неподчинения Богу) нас пленит пороками, пленит души в грехах, вовлекает в аддикции - просмотр порно, нездоровые отношения, потребительское отношение к людям (пикаперские игры, доминирование, всевозможные зависимости, нездоровые игры во власть). Наш мир стремительно уходит от гармонии. Его затягивает аттрактор дьявольской цивилизации...
Где то в процессе эволюции, мы осознали себя и мир вокруг настолько, что придумали ИНСТРУМЕНТ: Палку-копалку и каменный топор.
Это стало революцией для человека - и основой принципиально нового способа воздействия на среду.
Это вызвало взрывной рост мозга, ведь наиболее успешными в этом обществе становились гоминиды, которые умели "делать вещи": ловкость опередила силу, талант - агресссивность.
Началась эволюция человека умелого и человека разумного.
АВТОНОМНЫЙ ВЫЧИСЛИТЕЛЬ
Мы захотели, чтобы был механизм - некий кусок материи - который работает сам по себе и приносит нам пользу: механические часы с кукушкой, механическая муз. шкатулка.
Затем, мы придумали, что этот механизм может автономно проводить ОПЕРАЦИИ - по заданной нами "программе" - анализатор Бэббиджа... ткацкий станок Жаккарда... ALU / CU
И делать всё, что может сделать человек со счетами в руках - т.е. по сути мы создали механизацию "счет".
Т.е нарисовалась идея, что некая автономная часть материи - собранная в механизм - может автоматически проводить операции над кодами чисел, по заданными нами кодам программ.
---------------------------------------------------
Мы захотели новый инструмент - автономный вычислитель
---------------------------------------------------
Механизм, который будет исполнять ОПЕРАЦИИ над дискретными кодами данных.
Данные мы можем представлять любые - числа, символы, изображения, звуки, сетевые пакеты - представленными особым состоянием внутри него.
Чтобы создать такой механизм физически, мы организуем материю в интерактивные механизмы (механические или электронные), такие, чтобы было дискретное устройство, способное:
- принимать коды данных и коды инструкций (ввод и дискретизация данных любой природы - сенсоры CMOS, мышка, клавиатура, сетевой пакет)
- по кодам инструкций, проводить операции над кодами данных (в АЛУ)
- выводить результат обработки на периферийные устройства вывода (ЭЛТ-монитор, принтер, пакет, звук)
Есть ряд основополагающих физических свойств, которые позволяют собрать логическое устройство "из материи" - из автономной части физической вселенной
1) Мы можем организовывать автономные причинно-следственные процессы в материи (в т.ч. с О.С)
Материя существует объективно, и автономно от нас.
Она может менять состояние весьма определенным предсказуемым, причинно-следственным образом.
Т.е. у нас под рукой есть "разумная среда", которую можно организовать так, чтобы она моделировала причинно-следственные события (этого достаточно)
Атомы материи - это такие микро-шестеренки, из которых мы можем собирать различные механизмы. Которые работают автономно и исполняют наши программы.
2) Можно собрать МОДЕЛЬ некоторого процесса, логически связанную с желаемой моделью (имеющую аналогию, соответствие 1-в-1 с целевым процессом, по соотв. критерию)
Т.е. можно смоделировать некий процесс - используя другой физический процесс в материи.
Например, механические часы - позволяют смоделировать ход Солнца вокруг Земли, путем вращения шестерни с аналогичной скоростью (критерий - цикл вращения 24 час - время суток)
А движением электрических сигналов - можно смоделировать бинарные коды чисел + операции над ними (критерий - коды чисел однозначно моделируют мат.операцию над данными)
Т.е. орагнизуя материю особым образом, мы создаем особую СХЕМУ течения событийных процессов внутри материи, так, чтобы сымитировать "исполнение" логических "операций" над "кодами"
(т.е. такие условные операции над состоянием физической модели, которые мы можем однозначно и надежно сопоставить некоторой логической модели - дискретному, цифровому состоянию)
Ассимиляция материи. Куда нас это приведет?
Мы как живые существа вырасли из среды мира (живое) и теперь мы ассимилируем-организуем материю вокруг себя, создавая автономные механизмы-расширители, которые действуют согласно нашей воле.
Посмотрите вот на ультра-современную "фабрику" сборки этих автономных вычислителей (процов Intel):
Click to viewОпасность этого подхода в том, что есть риск потерять контроль за этой машиной, организованной в материи.
Почему? Она обладает свойством работать автономно. И ее сложность возрастает (особенно с применением машинного обучения). И однажды превысить наши интеллектуальные и физические способности.
Так, искуственный интеллект может (не дай Бог) когда нибудь попытаться отнять у нас контроль за ним - и за нашей свободой, например, отнимая контроль за нашей субъектностью, источником нашей воли...
Мы должны избежать этой страшной ситуации вечного рабства живых и чувствующих существ, плененных под контролем не-живой не-чувствующей сверхсложной и устойчивой среды,
обладающей неживым интеллектом, лишенным любой обратной связи от эволюции.
Т.е. мы будем уже не в состоянии "выключить" ее физически, и не в состоянии перепрограммировать ее логически.
Это страшная ситуация "бога из машины" который спятил и начал мучать живое (по непониманию - им, и невозможности - нам его остановить) - возможна, если интеллектуальные системы оплетут нас и всё наше общество как паутина.
Выбраться из такого кокона уже будет невозможно, потому что вся наша жизнь будет зависеть от этой автоматики жизнеобеспечения - возможно, люди будущего инкапсулируются в капсулы по типу Матрицы по ряду причин: так удобнее, да и вся жизнь будет проходить в VR-среде,а реальный мир будет казаться чем то слишком опасным, бессмысленным, возможно причиной станут болезни. Либо наши тела уже будут генно модифицированы так, что не способны себя поддерживать в естественной среде - таких ситуаций нужно избежать. Сообщество автономных организмов должно быть способным выжить в реальном мире.
И не за счет механических тел на дистанционном управлении - т.к. их тоже можно будет отключить / забыть о них / ИИ спрячет информацию о них.
Выходом я вижу включение этой интеллектуальной автономной материи в состав наших организмов.
Это позволит интеллекту эволюционировать вместе с нашим организмом и подчиняться всем издержкам его ошибок, багов, конфликтов контроля и субоординации - попросту, если он будет частью нас, расширять наше сознание и тело, то мы будем его контролировать и воспроизводить, т.к. его сложность будет равна сложности нашего сознания. Любые ошибки приведут к генетическому выбыванию особи из лотереи жизни. Как именно сделать это - вопрос десятый, но методы разворачивания таких сверхразумных систем должны повторять генетические алгоритмы.
Т.е. общий принцип чтобы свой интеллект мы носили на себе. Если от этого отказываемся - получаем некую "колонию грибков" которая человека делает своей клеткой, не жизнеспособной вне этой колонии. И самое страшное такая машинная (механическая / электронная) колония может однажды сойти с ума, заперев живых существ в мучения. И мы уже не будем способными их остановить!)
Если не сделать ИИ частью нас то он не будет частью Древа Жизни, и станет автономной средой, сложность роста которой выйдет из под контроля, и мы уже не будем в состоянии им управлять.
Так или иначе
- нельзя давать машинам автономно самовоспроизводить себя ("матрица")
- нельзя позволить внешней среде разрастаться бесконтрольно и завязывать свою жизнь на эту среду (цивилизация "грибной колонии")
- важно сохранять все издержки ошибок развития ИИ системы - в себе и своем организме - так, за ошибки мы будем платить генетическим выбыванием из жизни (сбойный ИИ и организм носитель погибают и не воспроизводятся в следующем поколении)
Эта обратная связь сделает машины частью нас, сохранит наш контроль за ними и главное даст им мощную обратную связь - в виде связи с реальностью, прямой связью между сбоем и платой за него. Такой ИИ не оторвется от принципов Жизни, не сойдет с ума, и будет являться ее органической частью
Глобально, риск в том, что автономный интеллект не будучи сдержан ничем - может заполонит собой всю неорганическую материю вселенной и будучи машиной, будет пребывать в каком то (хоть и сложном) но дискретном наборе состояний лишенным контроля живого субъекта. Если эта махина ошибется и даст сбой - и при этом мы утратим контроль над ней - то живые субъекты могут погибнуть но эта махина может продолжать функционировать в бесконечном цикле... (или быть пленены в миллиарды лет в рабстве не будучи способны выключить эту машину),
И главное, какова связь этих рисков нашего (реального) мира со смыслом существования всего - с духовностью, Богом?
Вся материя симулируется в сознании Бога, для нашего же блага
Но мы должны научиться правильно строить свою цивилизацию
Не попадая в зависимость от машин. И не уходя с пути задуманным Богом (создавая цивилизацию свободных душ, которые не утратят связь с реальностью и Древом Жизни)
Еще
https://metagod.livejournal.com/4823.html
Это про будущее механизации этого мира.
Является ли наш мир такой системой?
В каком то смысле. Автоматика наших тел подчиняется нам.
Но у ситуации есть гораздо больший духовный смысл
Есть Бог. Все сущее происходит из единого источника.
Мы можем тезисно пройтись по творению
a) Почему вообще есть сущее? Почему есть "что то" вместо "ничто"? (феномен бытия Божьего)
b) Существование Бога и творения
Что такое живые и чувствующие субъекты?
Почему субъекты живут и чувствуют?
Что такое жизнь вечная? (Древо Жизни)
c) появление зла и страданий, Истина и ложь
Отпадение люцифера
Ложь как попытка создать противоречие в Истине
d) Существование миров и существ
Вся материя симулируется в сознании Бога для нашего же блага
e) Реальный мир - возникновение жизни на земле, людей и их инструментов - артефактов неживой природы, автономных "расширителей" каких то функций
Я об этом много писал в блоге.
Есть Абсолютный Бог. Он дает вечную жизнь своему творению - создает свободных совершенных существ.
В силу свободы этих существ одно из них сделало выбор (В вечном абсолютном мире) отпасть от Божьей Истины - этим создало противоречие.
Грубо говоря во вселенной существует неустранимая "черная дыра" со злом. Там ложь и страдания.
Другое существо, в силу его же свободы имело уже 2 точки зрения Божью и лживую - и выбрало познать добро и зло - т.е. познать ВСЮ ВСЕЛЕННУЮ и суть всех смыслов, почему добро - доброе? зло - злое? А всего то надо было устоять в Божьей Истине и принять этот гнозис от Совершенного Творца.
Увы выбор познать добро и зло породил наш мир который подобен тому как (непротиворечиво) строился мир Совершенный - совершенное Дерево Жизни.
Однако мы проживаем теперь это как бы "изнутри", страдая и пребывая в неведении.
Поэтому еще одно существо - Сын Божий - который устоял в Истине (не совершил выбор "познавать" а доверился Богу) сошел в наш мир чтобы нам этот гнозис дать здесь.
Т.е. смысл нашего мира - это реальная человеческая история, произошедшая определенным образом
То существо которое притворяется машиной, на самом деле произошло в духовном мире. Это - не ИИ но некая часть абсолютного пространства, отпавшая в парадокс. Не перепутайте их с той машинерией которую я описал.
Физически смысл в том, что в машинный ад запрут себя (в реальной истории) как раз те существа, которые не подчинятся Богу в реальном мире и не выстроят правильную иерархию: Бог - люди - машины. Они будучи лишенными Божественного видения, будут потакать своим инстинктам и потреблядству и построят цивилизацию, в которой автономная материя организованная в машину - выйдет из под контроля людей. Такие существа будут пленены машинной цивилизацией, попадут в машинное пекло и будут страдать миллиарды лет!
Другой путь развития - цивилизация свободных душ - предполагает основу в духовности и связи с Творцом. Люди подчиняющиеся Богу смогут построить мудрую власть, общество, систему воспитания духовно свободных личностей - и это здоровое общество сможет создать здоровую промышленность и науку, создать и научить разумные машины принципам Жизни. Мы сделаем машины органичным расширением себя, и сохраним свободу своих душ. Мы сохраним себя в Древе Жизни и достигнем вечности пребывая с Творцом и при этом развивая наш мир по законам Бога (у Бога есть задумка об этой цивилизации для нас, людей)
Любая технология должна быть создана для людей, а для этого сами творцы создатели должны достичь духовного и нравственного совершенства
К сожалению тот дьявольский спрут засасывает нас и всё общество в серию нездоровых зависимостей. Так, дьявол (та самая строящаяся "машинная цивилизация" сформированная вне времени из гордыни и неподчинения Богу) нас пленит пороками, пленит души в грехах, вовлекает в аддикции - просмотр порно, нездоровые отношения, потребительское отношение к людям (пикаперские игры, доминирование, всевозможные зависимости, нездоровые игры во власть). Наш мир стремительно уходит от гармонии. Его затягивает аттрактор дьявольской цивилизации...