Советский Сайлент Хилл/"Китайская комната", или о самоорганизации
Я нашёл ещё один фантастический рассказ, который долго искал. (Потом можно будет сделать подборку - фантастические рассказы из детства, которые на меня повлияли.) В данном случае, речь идёт о рассказе "Спасите Галю!" - Кир Булычёв, 1990 год. Судя по отзывам, люди делятся на тех, кого вставило, и тех, кто не воткнул. Меня вставило, ещё как. Кир Булычёв тогда выдал мощный закос под Лазарчука или Столярова, показав, что на поле "турбореализма" он может играть не хуже молодых. Хотя, конечно, эпизод со стариком и сгущёнкой чисто булычёвский...
Да, те, кто пишут, что это банальный рассказ про экологию и про то, что её нужно беречь, точно ничего не поняли. Во-первых, речь о всей нашей стране и нашей истории, не зря в рассказе упоминается и Гражданская, и Великая Отечественная. А во-вторых, экология - это то, что там внутри.
***
По длинной цепочке ассоциаций, я вспомнил один свой сон; мне повезло, что я рассказал о нём arishai по аське, так что лог сохранился.
Gest:
Я как-то читал на Википедии об одном мысленном эксперименте... называется, "Китайская комната".
Автор хотел опровергнуть концепцию искусственного интеллекта.
Он предложил следующую ситуацию.
В комнате сидит человек, не знающий китайского.
Но у него есть набор иероглифов, и список инструкций неограниченной сложности.
Снаружи комнаты находится китаец, который может передавать в комнату записки.
Человек сверяется со своими инструкциями, и, в зависимости от того, какие иероглифы к нему пришли, он посылает в ответ тот или иной набор иероглифов.
Инструкция составлены так, что китаец снаружи считает, что имеет дело с другим китайцем, и они разговаривают. То есть, "Китайская комната" проходит тест Тьюринга.
Так где же тут интеллект? - спрашивал автор мысленного эксперимента.
Человек внутри не знает китайского, он просто действует по инструкции.
И компьютер работает точно также. Даже если он говорит с нами, даже если он отвечает нам, даже если у нас в какой-то момент возникнет иллюзия, что мы имеем дело с разумом, компьютер никогда разумным не станет. Это просто идиот, выполняющий инструкцию.
Конечно, я с этим автором не согласился.
Мне об этом даже сон приснился :).
arishai:
>> Так где же тут интеллект? - спрашивал автор мысленного эксперимента.
э, а у чувака в комнате нет интеллекта?
он не просто действует по инструкции, это же язык, всё равно срабатывает та часть мозга, что отвечает за лингвистику
и человек при этом обучается
именно это признак интеллекта - делать из всего выводы
о которых никто не просил
компьютер их, конечно. не делает
ему не надо
интеллект - это обучаемость, которую не отключить :)
(...)
Gest:
А я думал о тексте инструкций.
Ведь если, по вводной, инструкция создаёт полную иллюзию китайца, значит, мы должны принять, что личность какого-то реального китайца могла быть превращена в программу. Потому что "комната" должна уметь поддержать разговор и о любимых песнях, и о детских воспоминаниях, и о политических пристрастиях. А это уже качества личности.
Нет ведь усреднённого ответа в разговорах о кино, например.
arishai:
Да, то, что такие инструкции вообще невозможны, это понятно
Gest:
Значит, где-то в инструкции скрыты и эстетические пристрастия, и полная биография...
Но, конечно, про язык я тоже думал :).
Автор эксперимента говорил о китайцах, потому что нам кажется, что у них всё просто - иероглиф за иероглифом, и готово высказывание. Не надо склонять и спрягать. Но на самом -то деле, китайский - это язык, а не набор иероглифов, там есть свои правила, это не так-то просто :).
Понятное дело, что это всего лишь умозрительный пример.
Меня, например, сразу заинтересовал вопрос, что ответит "комната", если спросить её: "А что если я скажу, что ты не человек, а всего лишь набор инструкций, написанных на карточках, которые сортирует рабочий, не имеющий никакого представления о смысле слов, которые ты произносишь?"
(...)
arishai:
>> Автор эксперимента говорил о китайцах, потому что нам кажется, что у них всё просто
О.о
мне никогда так не казалось
да, правила, плюс ещё интонация - и, наверное, и интонационные знаки должны быть
Gest:
Ну ответы-то в письменной форме, у них там как бы чат.
arishai:
да всё равно
не бывает языка без правил
хотя автору эксперимента, может быть, так и не кажется
не знаю
>> Меня, например, сразу заинтересовал вопрос, что ответит "комната", если спросить её: "А что если я скажу, что ты не человек, а всего лишь набор инструкций, написанных на карточках, которые сортирует рабочий, не имеющий никакого представления о смысле слов, которые ты произносишь?"
"Пошёл ты!!!", - она ответит. :)
Gest:
Я как раз с тобой согласен :).
Но интересно было бы посеять в "комнате" экзистенциальное сомнение, правда? :D
Потом, в качестве доказательства своих слов, можно попросить её описать своё окружение, разглядеть в нём какие-то мелкие детали...
Поставить простой физический эксперимент :D
arishai:
>> Поставить простой физический эксперимент :D
комнате повезло, что не ты её собеседник, а умозрительный китаец :)
но, что ты хочешь с ней сделать, и есть признак интеллекта :D
короче, я не верю, что чувак в комнате будет всегда следовать инструкции
людям становится скучно со временем :)
ещё один признак интеллекта: "а что, если..." :D
вообще, глуповатый эксперимент, эта китайская комната.
Gest:
Да :).
(...)
Gest:
Но, короче, мне на эту тему даже сон приснился.
Очень глючный.
Будто я присутствую на лекции какого-то профессора, который давным-давно в качестве эксперимента собрал сложную алхимическую конструкцию из колб и реторт.
Причём, он её давно всем показывает, кто-то из аудитории, какой-то старый знакомый профессора, шутливо спросил "А где шипучка?" - то есть, раньше всё это ещё шипело, пузырилось и переливалось из сосуда в сосуд.
Но суть в том, что "шипучка" была всего лишь бутафорией для красоты, а сама конструкция - настоящий шедевр алхимии. Нечто вроде искусственного организма из стекла и химических составов.
В итоге, я разговариваю с этим профессором, вроде как теоретически. И он говорит, что любая достаточно сложная конструкция в конечном счёте приобретает черты жизни и разума.
И что древние китайцы знали об этом, поэтому в своих алхимических экспериментах они дошли до какого-то предела и остановились.
И при этом профессор с опаской смотрит в небо (мы уже вышли из института), и говорит, что здесь не стоит разговаривать, надо пойти в другое, более безопасное место.
И я понимаю, что он всё-таки создал алхимический компьютер - разумный компьютер. И что этот мозг уже начал контролировать примитивные формы жизни, вроде птиц, летающих над крышей института.
И во сне я считал, что это-то и есть ответ на парадокс "китайской комнаты". Инструкция подобной сложности неизбежно станет квази-разумной, а приставленный к ней человек будет всего-навсего её инструментом, механическим слугой, помогающим передавать сигналы от "нейрона к нейрону", от карточки к карточки. То есть, комната овладеет человеком внутри.
Подобно тому, как созданный профессором алхимический прибор стал использовать птиц и/или профессора.
arishai:
ужаас.
Gest:
Да, жутковатый был сон :).
--------------------------------------
Если попробовать реконструировать логику тогдашнего меня... во сне... то речь шла именно о том, о чём говорила arishai. Исполнитель, слепо следующий инструкции, неизбежно будет совершать ошибки. Эти ошибки будут накапливаться в системе, задавая этим ось её внутреннего времени, а следовательно, и создавая возможность для развития. Иначе система всегда будет реагировать одинаковым образом на одинаковые стимулы, не имея возможности создать новые смыслы путём перетасовки старых. А ведь, как говорят китайцы, "деревья цветут каждый год, но человек меняется".
--------------------------------------
arishai:
Про "Начало" рецензия: "В общем, если договориться считать нолановский фильм не фантастикой, а автобиографической драмой о том, что у зануд даже сны скучные, - это вполне себе выдающееся произведение."
А у зануд сны скучные?
Gest:
Не знаю :).
Меня называли занудой, а у меня сны яркие и сложные :).
arishai:
Значит, ты не зануда :)
Да, те, кто пишут, что это банальный рассказ про экологию и про то, что её нужно беречь, точно ничего не поняли. Во-первых, речь о всей нашей стране и нашей истории, не зря в рассказе упоминается и Гражданская, и Великая Отечественная. А во-вторых, экология - это то, что там внутри.
***
По длинной цепочке ассоциаций, я вспомнил один свой сон; мне повезло, что я рассказал о нём arishai по аське, так что лог сохранился.
Gest:
Я как-то читал на Википедии об одном мысленном эксперименте... называется, "Китайская комната".
Автор хотел опровергнуть концепцию искусственного интеллекта.
Он предложил следующую ситуацию.
В комнате сидит человек, не знающий китайского.
Но у него есть набор иероглифов, и список инструкций неограниченной сложности.
Снаружи комнаты находится китаец, который может передавать в комнату записки.
Человек сверяется со своими инструкциями, и, в зависимости от того, какие иероглифы к нему пришли, он посылает в ответ тот или иной набор иероглифов.
Инструкция составлены так, что китаец снаружи считает, что имеет дело с другим китайцем, и они разговаривают. То есть, "Китайская комната" проходит тест Тьюринга.
Так где же тут интеллект? - спрашивал автор мысленного эксперимента.
Человек внутри не знает китайского, он просто действует по инструкции.
И компьютер работает точно также. Даже если он говорит с нами, даже если он отвечает нам, даже если у нас в какой-то момент возникнет иллюзия, что мы имеем дело с разумом, компьютер никогда разумным не станет. Это просто идиот, выполняющий инструкцию.
Конечно, я с этим автором не согласился.
Мне об этом даже сон приснился :).
arishai:
>> Так где же тут интеллект? - спрашивал автор мысленного эксперимента.
э, а у чувака в комнате нет интеллекта?
он не просто действует по инструкции, это же язык, всё равно срабатывает та часть мозга, что отвечает за лингвистику
и человек при этом обучается
именно это признак интеллекта - делать из всего выводы
о которых никто не просил
компьютер их, конечно. не делает
ему не надо
интеллект - это обучаемость, которую не отключить :)
(...)
Gest:
А я думал о тексте инструкций.
Ведь если, по вводной, инструкция создаёт полную иллюзию китайца, значит, мы должны принять, что личность какого-то реального китайца могла быть превращена в программу. Потому что "комната" должна уметь поддержать разговор и о любимых песнях, и о детских воспоминаниях, и о политических пристрастиях. А это уже качества личности.
Нет ведь усреднённого ответа в разговорах о кино, например.
arishai:
Да, то, что такие инструкции вообще невозможны, это понятно
Gest:
Значит, где-то в инструкции скрыты и эстетические пристрастия, и полная биография...
Но, конечно, про язык я тоже думал :).
Автор эксперимента говорил о китайцах, потому что нам кажется, что у них всё просто - иероглиф за иероглифом, и готово высказывание. Не надо склонять и спрягать. Но на самом -то деле, китайский - это язык, а не набор иероглифов, там есть свои правила, это не так-то просто :).
Понятное дело, что это всего лишь умозрительный пример.
Меня, например, сразу заинтересовал вопрос, что ответит "комната", если спросить её: "А что если я скажу, что ты не человек, а всего лишь набор инструкций, написанных на карточках, которые сортирует рабочий, не имеющий никакого представления о смысле слов, которые ты произносишь?"
(...)
arishai:
>> Автор эксперимента говорил о китайцах, потому что нам кажется, что у них всё просто
О.о
мне никогда так не казалось
да, правила, плюс ещё интонация - и, наверное, и интонационные знаки должны быть
Gest:
Ну ответы-то в письменной форме, у них там как бы чат.
arishai:
да всё равно
не бывает языка без правил
хотя автору эксперимента, может быть, так и не кажется
не знаю
>> Меня, например, сразу заинтересовал вопрос, что ответит "комната", если спросить её: "А что если я скажу, что ты не человек, а всего лишь набор инструкций, написанных на карточках, которые сортирует рабочий, не имеющий никакого представления о смысле слов, которые ты произносишь?"
"Пошёл ты!!!", - она ответит. :)
Gest:
Я как раз с тобой согласен :).
Но интересно было бы посеять в "комнате" экзистенциальное сомнение, правда? :D
Потом, в качестве доказательства своих слов, можно попросить её описать своё окружение, разглядеть в нём какие-то мелкие детали...
Поставить простой физический эксперимент :D
arishai:
>> Поставить простой физический эксперимент :D
комнате повезло, что не ты её собеседник, а умозрительный китаец :)
но, что ты хочешь с ней сделать, и есть признак интеллекта :D
короче, я не верю, что чувак в комнате будет всегда следовать инструкции
людям становится скучно со временем :)
ещё один признак интеллекта: "а что, если..." :D
вообще, глуповатый эксперимент, эта китайская комната.
Gest:
Да :).
(...)
Gest:
Но, короче, мне на эту тему даже сон приснился.
Очень глючный.
Будто я присутствую на лекции какого-то профессора, который давным-давно в качестве эксперимента собрал сложную алхимическую конструкцию из колб и реторт.
Причём, он её давно всем показывает, кто-то из аудитории, какой-то старый знакомый профессора, шутливо спросил "А где шипучка?" - то есть, раньше всё это ещё шипело, пузырилось и переливалось из сосуда в сосуд.
Но суть в том, что "шипучка" была всего лишь бутафорией для красоты, а сама конструкция - настоящий шедевр алхимии. Нечто вроде искусственного организма из стекла и химических составов.
В итоге, я разговариваю с этим профессором, вроде как теоретически. И он говорит, что любая достаточно сложная конструкция в конечном счёте приобретает черты жизни и разума.
И что древние китайцы знали об этом, поэтому в своих алхимических экспериментах они дошли до какого-то предела и остановились.
И при этом профессор с опаской смотрит в небо (мы уже вышли из института), и говорит, что здесь не стоит разговаривать, надо пойти в другое, более безопасное место.
И я понимаю, что он всё-таки создал алхимический компьютер - разумный компьютер. И что этот мозг уже начал контролировать примитивные формы жизни, вроде птиц, летающих над крышей института.
И во сне я считал, что это-то и есть ответ на парадокс "китайской комнаты". Инструкция подобной сложности неизбежно станет квази-разумной, а приставленный к ней человек будет всего-навсего её инструментом, механическим слугой, помогающим передавать сигналы от "нейрона к нейрону", от карточки к карточки. То есть, комната овладеет человеком внутри.
Подобно тому, как созданный профессором алхимический прибор стал использовать птиц и/или профессора.
arishai:
ужаас.
Gest:
Да, жутковатый был сон :).
--------------------------------------
Если попробовать реконструировать логику тогдашнего меня... во сне... то речь шла именно о том, о чём говорила arishai. Исполнитель, слепо следующий инструкции, неизбежно будет совершать ошибки. Эти ошибки будут накапливаться в системе, задавая этим ось её внутреннего времени, а следовательно, и создавая возможность для развития. Иначе система всегда будет реагировать одинаковым образом на одинаковые стимулы, не имея возможности создать новые смыслы путём перетасовки старых. А ведь, как говорят китайцы, "деревья цветут каждый год, но человек меняется".
--------------------------------------
arishai:
Про "Начало" рецензия: "В общем, если договориться считать нолановский фильм не фантастикой, а автобиографической драмой о том, что у зануд даже сны скучные, - это вполне себе выдающееся произведение."
А у зануд сны скучные?
Gest:
Не знаю :).
Меня называли занудой, а у меня сны яркие и сложные :).
arishai:
Значит, ты не зануда :)