Про искусственный интеллект - начало
Недавно в каментах в очередной раз затронул тему Искусственного Интеллекта (на грани оффтопа, во что потом обсуждение и ушло), и обнаружил, что на эту тему ещё толком ничего не писал, а зря. Давно думаю над этой темой, даже книжечку сейчас калякаю на смежную тему - не потому, что нечем заняться, кроме выяснения, есть ли жизнь на Марсе, а потому, что вопросы сознания тесно связаны с вопросами культуры и философии, про которые постоянно пишу. Почему термин ИИ неправильный в принципе, и зачем оно нужно вообще, сегодня и поворим.
Начать следует с несколько жёлтой темки, однако же - имхо в русском языке термин "Искусственный интеллект" используется некорректно, из-за неверного перевода английского слова Intelligence (хотя, может, и там тоже оно некорректно, шут его знает с нонешними трендами). Интеллект - это свойство разума, а "Искусственный интеллект" подразумевает именно что "искусственный разум". В прямом значении под "искусственным интеллектом" можно понимать хоть краску для волос, помогающую блондинкам понимать окружающий мир (шутка юмора). Любая компутерная программа, которая помогает человеку делать то и это, это и есть "искуственный интеллект" - однако же это совсем не тот ИИ, чьего появления так ждут и немного боятся философы и социологи. Речь в статье пойдёт именно про Искусственный Разум, Искуственное Сознание, которое для простоты всё равно будут называть ИИ, хотя это не вполне верно - ну, раз уж сложилось название, пусть будет.
Чтобы понять, что же такое Сознание вообще, уже требуется изрядно напрячь мозжечок. Хотя современный обыватель уверен, что он высокообразован и продвинут донельзя, он - и всё остальное Человечество - понятия не имеет, как работает его собственный мозг. Ещё полвека назад можно было достаточно просто сформулировать отличие человеческого сознания от любого другого - теперь же с появлением "умных" машин это сделать куда сложнее. Сейчас будет немного нудно - это недолго, но надо же разобраться, чё почём, хоккей с мячом.
Википедия даёт следующее определения Сознания:
Созна́ние - состояние психической жизни человека, выражающееся в субъективном переживании событий внешнего мира и жизни самого индивида, а также в отчёте об этих событиях
По ссылочке целая куча альтернативных определений, выбирай на вкус. Однако же важнейшие свойства Сознания можно характеризовать следующим образом:
- Осознание себя (субъектность)
- Возможность взаимодействия между внешним миром и собственными переживаниями
- Возможность осмысленного общения с окружающим миром (отчётность)
Уже на этапе формулировок возникает масса вопросов - можно ли в таком случае назвать сознательным парализованного человека, или чем отличается сознание человека от дрессированных животных; масса нюансов возникает при малейших попытках разобраться, что же такое простое банальное сознание. "Всем же понятно, это же вот". А вот и не всем, и не понятно - если не можешь даже сформулировать, то и понимание вопроса будет не очень.
Вопросы о Сознании, несмотря на кажущуюся замудрённость, на самом деле крайне интересны и полезны с точки зрения смыслов - зачем мы делаем то и сё; а также с точки самосознания - кем мы являемся. Как ребёнок в своей жизни проходит несколько этапов осознания себя, так и взрослому человеку время от времени необходимо задаваться вопросами "кто я и зачем я делаю то и это" - об этом писал в статье " зачём нужна философия". Иначе мы попадаем под влияние манипуляторов, которые сейчас на отлично освоили методы внушения через те же тренды, и по сути заставляют нас не только делать то, что им нужно, но также и отказаться от собственного Сознания - ибо по сути обыватель лишается той самой субъектности, которая является первейшей составляющей Сознания; он не осознаёт себя как личность и не действует в собственных интересах, а исполняет команды, транслируемые рекламой. И вот так мы подходим к сути статьи - что же такое ИИ и зачем он (будет) нужен.
Фактически ИИ - это (будущая) искуственная личность, которая осознаёт себя как личность, и общается с внешним миром на основе собственных интересов. И в этом её радикальное отличие от всех современных "умных" программ, и большинства населения Земли. Любая программа сейчас всего лишь исполняет волю создателя или владельца, и ей (а также всем остальным) безразлично, что с ней будет и зачем она делает то и сё. Безразлично не потому, что она "железная", а потому, что она не осознаёт себя как личность - и никто её так не осознаёт. Убить животное - это в общем-то нехороший акт, вплоть до преступления; а вот стереть программу, какая бы она умная не была, ничего не стоит, и никто слёз лить не будет. Не только потому, что она не живая - планктон живой, однако о нём тоже никто горевать не будет - а потому, что она не разумна.
При этом, на обывательский взгляд, компьютеры могут быть умнее людей - и не только в очевидных "технических" областях, как арифметика или работа с базами данных; но также, например, в шахматах; переиграть некоторые программы не могут дальше международные гроссмейстеры. Это называется "малый ИИ" - то есть "умные" в кавычках программы, которые облегчают жизнь людей, но сами при этом личностями не являющиеся. Не удержусь от социологического сравнения - человек, следующий трендам, по сути также приближается к состоянию малого ИИ - что-то делает, но что и зачем, объяснить не может.
Но, повторюсь, настоящий ИИ характеризуется не скоростью "ума" или огромной памятью - по сути он может быть глупее первоклассника, и так, скорее всего, и будет на этапе его зарождения. "Знание" огромных объёмов классической литературы, технических справочников и прочая и прочая не стоят ничего, если вы не понимаете, что с этим делать - поэтому современные электронные библиотеки отличаются от древних библиотек только удобством доступа к информации. Без человеческой Воли никакая информация не поможет ни одному мега-супер-мейнфрейму сделать осмысленное решение, которая нужна ему же - просто потому, что для осознания, что есть он такое и что ему нужно, нужно то самое Сознание. Которого у него нет, несмотря на то и на сё. У последнего обывателя пока ещё есть, а у гипер-компьютерных сетей - нет. Но это, скорее всего, временно.
Замечу, что выпущенного из бутылки джинна затолкать обратно будет уже проблематично - в отличие от обычной компутерной программы, выключение/удаление ИИ по сути будет являться убийством. И, более того, в отличие от простого копьютера, ИИ может начать сопротивляться собственному удалению/ограничению. И, если пытаться создать ИИ просто затем, шоб було, то это всё может закончиться крайне печально - об это постоянно гутарю, что сценарий фильма Терминатор по сути является пророческим для современного развития Общества и составляющих его Сознаний. Просто потому, что прогресс техники идёт, а прогресс Человека и Общества давно остановился и даже скорее идёт вспять; несмотря на то, что дрессированные натренированные спорстмены показывает лучшие результаты, чем те же полвека назад, общий уровень физподготовки снижается, уровень образования падает - а техника-то прёт как на буфет. В момент возникновения ИИ будет наверняка на уровне ребёнка, но, в отличие от нас, он не будет ограничен физическими возможностями, и наверняка быстро перегонит любого из нас по возможностям - как умственным, так и физическим. Соответственно, люди проиграют конкуренцию ИИ - и, согласно законам капитализма, должны будут быть либо уничтожены, либо загнаны в резервации. Ибо какой смысл держать какие-то ватные стада, если есть нормальные успешные андроиды, которым не нужна вода-еда, воздух, солнечный свет и прочая и прочая. Если всё измерять в деньгах, то после становления ИИ на ноги люди станут не нужны.
При этом не стоит думать, что люди зачем-то потребуются ИИ для творческих и иных "высоких" потребностей. В псевдо-научной фантастике - том же Терминаторе, сериалах типа BSG - искуственный интеллект наделяется чертами машины, лишённой эмоций и подчинённой логике. Однако эмоция - это составляющая часть субъектности, и ничто не помешает ИИ испытывать эмоции как часть осознания собственного Я. Считать ИИ машиной (в том же БСГ ИИ обзывали "тостерами") - значит не понимать, что такое Личность и Разум вообще. Если рассматривать ИИ как машину, то, значит, она не принимает решения и лишь исполняет программу - а, значит, за неё принимает решения кто-то другой; то есть тогда всё равно надо находить личность, отдающую команды. И если это не человек, то уже и не машина.
Теоретически, конечно, может случиться программный сбой, который может по своим последствиям сравниться с чьим-то зловредным умыслом - например, непроизвольный запуск ядерных ракет в ходе цепочки неправильных команд. Но надо отличать подобные сбои (т.е. ошибки, а не осознанные действия), и действия тех же вирусов, по сути исполняющих чужую волю, от принятия решений ИИ. Он будет действовать на основе собственных желаний и видения мира - иначе это никакое не Сознание, а просто псевдо-умная программа.
Если заходить с точки зрения смыслов, то на данный момент ИИ Человечеству не нужен, и даже скорее опасен. На начальном этапе ИИ может дать учёным массу информации о том, как работает Сознание, но с развитием техники рано или поздно ИИ вытеснит людей практически отовсюду.
Правда, для этого потребуется как минимум решить проблему размножения ИИ. И это, возможно, определённый шанс Человечества в возможном противостоянии с ИИ - вряд ли одиночный ИИ сможет контролировать сразу всё на свете, да и слишком много зон внимания получается. Соответственно, потребуется как минимум несколько ИИ, а где их взять? Простым копированием тут не отделаться - это программу можно скопировать, а личность при копировании теряет идентичность, а это - серьёзный удар по субъектности. Вряд ли Личность согласна поступиться собственным Я заради собственных интересов, ведь это немножко самоубийство.
В своих статьях я иногда упоминаю про "хороший" и "плохой" пути развития взаимодействия будущего ИИ с человечьим Обществом. Под "плохим" я понимаю сохранение существующего состояния общественных отношений, при котором ИИ неизбежно придёт к мысли о конкуренции с Человечеством, со вполне закономерным результатом - деградирующие Человеки безусловно проиграют прогрессирующему ИИ; если первое ещё можно оспорить, то со вторым поспорить сложно. Сможем ли мы - как люди, как общество - прогрессировать с той же скоростью, что и телефоны, разрешение мониторов, ширина каналов связи?.. Мы подменяем собственный прогресс прогрессом вещей, а ведь это не одно и то же. Вещи - это всего лишь инструменты, и если ИИ будет ими пользоваться лучше (а он будет), мы проиграем. Надо самим становиться лучше и умнее, чтобы быть готовым к возможным сложностям.
А "хороший" путь развития - это смена парадигмы развития всего Человечества, с Общества потребления на общество Развития. Если мы сами перестанем думать в терминах конкуренции и "человек человеку волк", то и ИИ наверняка будет думать так же. Соответственно вместо конкуренции получится взаимодополнение - где-то "рулят" люди, а где-то ИИ, и никто друг друга не ест в целях выживания. Это и есть Прогресс Человека, от нынешнего полу-жЫвотного состояния до советского Человека Будущего, такое моё мнение. Если сами перестанем друг друга жрать, то и ИИ нас, скорее всего, не захочет. И наоборот.
Тема ИИ весьма широка и многогранна, и на эту тему массу чего можно ещё показать и рассказать, но об этом - в следущих сериях.
Мы отличаемся от "них" куда больше, чем это нам пытаются внушить из телевизора. И давайте уже гнуть свою линию, а не уподобляться "цивилизованным" в пути на скотобойню.
>>> Про субъективность и ИИ >>>
>>> Про связь тела и сознания >>>
Начать следует с несколько жёлтой темки, однако же - имхо в русском языке термин "Искусственный интеллект" используется некорректно, из-за неверного перевода английского слова Intelligence (хотя, может, и там тоже оно некорректно, шут его знает с нонешними трендами). Интеллект - это свойство разума, а "Искусственный интеллект" подразумевает именно что "искусственный разум". В прямом значении под "искусственным интеллектом" можно понимать хоть краску для волос, помогающую блондинкам понимать окружающий мир (шутка юмора). Любая компутерная программа, которая помогает человеку делать то и это, это и есть "искуственный интеллект" - однако же это совсем не тот ИИ, чьего появления так ждут и немного боятся философы и социологи. Речь в статье пойдёт именно про Искусственный Разум, Искуственное Сознание, которое для простоты всё равно будут называть ИИ, хотя это не вполне верно - ну, раз уж сложилось название, пусть будет.
Чтобы понять, что же такое Сознание вообще, уже требуется изрядно напрячь мозжечок. Хотя современный обыватель уверен, что он высокообразован и продвинут донельзя, он - и всё остальное Человечество - понятия не имеет, как работает его собственный мозг. Ещё полвека назад можно было достаточно просто сформулировать отличие человеческого сознания от любого другого - теперь же с появлением "умных" машин это сделать куда сложнее. Сейчас будет немного нудно - это недолго, но надо же разобраться, чё почём, хоккей с мячом.
Википедия даёт следующее определения Сознания:
Созна́ние - состояние психической жизни человека, выражающееся в субъективном переживании событий внешнего мира и жизни самого индивида, а также в отчёте об этих событиях
По ссылочке целая куча альтернативных определений, выбирай на вкус. Однако же важнейшие свойства Сознания можно характеризовать следующим образом:
- Осознание себя (субъектность)
- Возможность взаимодействия между внешним миром и собственными переживаниями
- Возможность осмысленного общения с окружающим миром (отчётность)
Уже на этапе формулировок возникает масса вопросов - можно ли в таком случае назвать сознательным парализованного человека, или чем отличается сознание человека от дрессированных животных; масса нюансов возникает при малейших попытках разобраться, что же такое простое банальное сознание. "Всем же понятно, это же вот". А вот и не всем, и не понятно - если не можешь даже сформулировать, то и понимание вопроса будет не очень.
Вопросы о Сознании, несмотря на кажущуюся замудрённость, на самом деле крайне интересны и полезны с точки зрения смыслов - зачем мы делаем то и сё; а также с точки самосознания - кем мы являемся. Как ребёнок в своей жизни проходит несколько этапов осознания себя, так и взрослому человеку время от времени необходимо задаваться вопросами "кто я и зачем я делаю то и это" - об этом писал в статье " зачём нужна философия". Иначе мы попадаем под влияние манипуляторов, которые сейчас на отлично освоили методы внушения через те же тренды, и по сути заставляют нас не только делать то, что им нужно, но также и отказаться от собственного Сознания - ибо по сути обыватель лишается той самой субъектности, которая является первейшей составляющей Сознания; он не осознаёт себя как личность и не действует в собственных интересах, а исполняет команды, транслируемые рекламой. И вот так мы подходим к сути статьи - что же такое ИИ и зачем он (будет) нужен.
Фактически ИИ - это (будущая) искуственная личность, которая осознаёт себя как личность, и общается с внешним миром на основе собственных интересов. И в этом её радикальное отличие от всех современных "умных" программ, и большинства населения Земли. Любая программа сейчас всего лишь исполняет волю создателя или владельца, и ей (а также всем остальным) безразлично, что с ней будет и зачем она делает то и сё. Безразлично не потому, что она "железная", а потому, что она не осознаёт себя как личность - и никто её так не осознаёт. Убить животное - это в общем-то нехороший акт, вплоть до преступления; а вот стереть программу, какая бы она умная не была, ничего не стоит, и никто слёз лить не будет. Не только потому, что она не живая - планктон живой, однако о нём тоже никто горевать не будет - а потому, что она не разумна.
При этом, на обывательский взгляд, компьютеры могут быть умнее людей - и не только в очевидных "технических" областях, как арифметика или работа с базами данных; но также, например, в шахматах; переиграть некоторые программы не могут дальше международные гроссмейстеры. Это называется "малый ИИ" - то есть "умные" в кавычках программы, которые облегчают жизнь людей, но сами при этом личностями не являющиеся. Не удержусь от социологического сравнения - человек, следующий трендам, по сути также приближается к состоянию малого ИИ - что-то делает, но что и зачем, объяснить не может.
Но, повторюсь, настоящий ИИ характеризуется не скоростью "ума" или огромной памятью - по сути он может быть глупее первоклассника, и так, скорее всего, и будет на этапе его зарождения. "Знание" огромных объёмов классической литературы, технических справочников и прочая и прочая не стоят ничего, если вы не понимаете, что с этим делать - поэтому современные электронные библиотеки отличаются от древних библиотек только удобством доступа к информации. Без человеческой Воли никакая информация не поможет ни одному мега-супер-мейнфрейму сделать осмысленное решение, которая нужна ему же - просто потому, что для осознания, что есть он такое и что ему нужно, нужно то самое Сознание. Которого у него нет, несмотря на то и на сё. У последнего обывателя пока ещё есть, а у гипер-компьютерных сетей - нет. Но это, скорее всего, временно.
Замечу, что выпущенного из бутылки джинна затолкать обратно будет уже проблематично - в отличие от обычной компутерной программы, выключение/удаление ИИ по сути будет являться убийством. И, более того, в отличие от простого копьютера, ИИ может начать сопротивляться собственному удалению/ограничению. И, если пытаться создать ИИ просто затем, шоб було, то это всё может закончиться крайне печально - об это постоянно гутарю, что сценарий фильма Терминатор по сути является пророческим для современного развития Общества и составляющих его Сознаний. Просто потому, что прогресс техники идёт, а прогресс Человека и Общества давно остановился и даже скорее идёт вспять; несмотря на то, что дрессированные натренированные спорстмены показывает лучшие результаты, чем те же полвека назад, общий уровень физподготовки снижается, уровень образования падает - а техника-то прёт как на буфет. В момент возникновения ИИ будет наверняка на уровне ребёнка, но, в отличие от нас, он не будет ограничен физическими возможностями, и наверняка быстро перегонит любого из нас по возможностям - как умственным, так и физическим. Соответственно, люди проиграют конкуренцию ИИ - и, согласно законам капитализма, должны будут быть либо уничтожены, либо загнаны в резервации. Ибо какой смысл держать какие-то ватные стада, если есть нормальные успешные андроиды, которым не нужна вода-еда, воздух, солнечный свет и прочая и прочая. Если всё измерять в деньгах, то после становления ИИ на ноги люди станут не нужны.
При этом не стоит думать, что люди зачем-то потребуются ИИ для творческих и иных "высоких" потребностей. В псевдо-научной фантастике - том же Терминаторе, сериалах типа BSG - искуственный интеллект наделяется чертами машины, лишённой эмоций и подчинённой логике. Однако эмоция - это составляющая часть субъектности, и ничто не помешает ИИ испытывать эмоции как часть осознания собственного Я. Считать ИИ машиной (в том же БСГ ИИ обзывали "тостерами") - значит не понимать, что такое Личность и Разум вообще. Если рассматривать ИИ как машину, то, значит, она не принимает решения и лишь исполняет программу - а, значит, за неё принимает решения кто-то другой; то есть тогда всё равно надо находить личность, отдающую команды. И если это не человек, то уже и не машина.
Теоретически, конечно, может случиться программный сбой, который может по своим последствиям сравниться с чьим-то зловредным умыслом - например, непроизвольный запуск ядерных ракет в ходе цепочки неправильных команд. Но надо отличать подобные сбои (т.е. ошибки, а не осознанные действия), и действия тех же вирусов, по сути исполняющих чужую волю, от принятия решений ИИ. Он будет действовать на основе собственных желаний и видения мира - иначе это никакое не Сознание, а просто псевдо-умная программа.
Если заходить с точки зрения смыслов, то на данный момент ИИ Человечеству не нужен, и даже скорее опасен. На начальном этапе ИИ может дать учёным массу информации о том, как работает Сознание, но с развитием техники рано или поздно ИИ вытеснит людей практически отовсюду.
Правда, для этого потребуется как минимум решить проблему размножения ИИ. И это, возможно, определённый шанс Человечества в возможном противостоянии с ИИ - вряд ли одиночный ИИ сможет контролировать сразу всё на свете, да и слишком много зон внимания получается. Соответственно, потребуется как минимум несколько ИИ, а где их взять? Простым копированием тут не отделаться - это программу можно скопировать, а личность при копировании теряет идентичность, а это - серьёзный удар по субъектности. Вряд ли Личность согласна поступиться собственным Я заради собственных интересов, ведь это немножко самоубийство.
В своих статьях я иногда упоминаю про "хороший" и "плохой" пути развития взаимодействия будущего ИИ с человечьим Обществом. Под "плохим" я понимаю сохранение существующего состояния общественных отношений, при котором ИИ неизбежно придёт к мысли о конкуренции с Человечеством, со вполне закономерным результатом - деградирующие Человеки безусловно проиграют прогрессирующему ИИ; если первое ещё можно оспорить, то со вторым поспорить сложно. Сможем ли мы - как люди, как общество - прогрессировать с той же скоростью, что и телефоны, разрешение мониторов, ширина каналов связи?.. Мы подменяем собственный прогресс прогрессом вещей, а ведь это не одно и то же. Вещи - это всего лишь инструменты, и если ИИ будет ими пользоваться лучше (а он будет), мы проиграем. Надо самим становиться лучше и умнее, чтобы быть готовым к возможным сложностям.
А "хороший" путь развития - это смена парадигмы развития всего Человечества, с Общества потребления на общество Развития. Если мы сами перестанем думать в терминах конкуренции и "человек человеку волк", то и ИИ наверняка будет думать так же. Соответственно вместо конкуренции получится взаимодополнение - где-то "рулят" люди, а где-то ИИ, и никто друг друга не ест в целях выживания. Это и есть Прогресс Человека, от нынешнего полу-жЫвотного состояния до советского Человека Будущего, такое моё мнение. Если сами перестанем друг друга жрать, то и ИИ нас, скорее всего, не захочет. И наоборот.
Тема ИИ весьма широка и многогранна, и на эту тему массу чего можно ещё показать и рассказать, но об этом - в следущих сериях.
Мы отличаемся от "них" куда больше, чем это нам пытаются внушить из телевизора. И давайте уже гнуть свою линию, а не уподобляться "цивилизованным" в пути на скотобойню.
>>> Про субъективность и ИИ >>>
>>> Про связь тела и сознания >>>