Анил Сет, «Быть собой. Новая теория сознания»
Августовская книга нашего клуба. Очередной пример книги, которую я ни за что бы не купил из-за одного только названия. Но нет, это не очередная мистика-дуристика с развитием личности и раскрытием чакр. Это книга о том, что такое «я», как у нас в мозгу формируется ощущение самого себя. Потому что, если задуматься, вопрос очень даже в духе «Гёдель, Эшер, Бах» - там постоянно крутилась идея самоописываемых систем, но ведь у нас в голове точно то же самое: наш мозг понимает (в этой фразе каждое слово можно было бы взять в кавычки), что такое мы, что такое он сам, и даже, как именно всё это происходит. Кстати, интересно, приводил ли Хофштадтер этот пример в своей книге - который год уже хочу перечитать, да всё никак не соберусь.
Книга интересная, но у меня к ней пара претензий. Во-первых, лично мне было очень сложно её читать, это не мой уровень. Да, осилил, но только где-то к середине книги понял какие-то идеи, которыми автор оперировал с самого начала. Надо бы перечитать книгу, чтобы понять теперь лучше - да где же найти на всё это время.
Кстати, забавно с моментом понимания: читаю про то, как наш мозг не просто воспринимает сигналы «снаружи» (нервные сигналы от внешних рецепторов к мозгу), но и пытается предсказывать, какими будут эти сигналы. То есть, мозг представляет какую-то картину мира, пытается вообразить, какими в этом случае должны быть внешние сигналы, и потом сравнивает свои предсказания с тем, что ему реально поступает. И я «узнал» вот этот механизм, когда по одному и тому же каналу в одну сторону идёт сигнал из внешнего мира, а в другую - ошибка предсказания, вспомнив схему обучения нейронных сетей. Когда сначала идёт анализ входного сигнала, используя случайную настройку сети, затем результат сравнивается с известным заранее правильным результатом, а затем по сети в обратном направлении прогоняется ошибка предсказания, позволяющая лучше настроить параметры сети. Очевидно, что не надо в этот момент кричать «ура, мозг работает точно так же, как и нейронка на компьютере!» - об этой ошибке сказано уже много, не будем поддаваться лёгкости параллелей. Я же вспомнил Фейнмана, который рекомендовал при изучении чего бы то ни было нового, представлять себе какую-то простую модель «на пальцах». И следить, когда эта модель работает, а когда перестаёт - в этот момент, говорил Фейнман, и начинается самое интересное, то, ради чего вы и пытались учить что-то для себя новое. Собственно, после этой аналогии книгу читать стало существенно проще. Поэтому и хочется перечитать её сначала.
Лирическое отступление: вспомнил, как ещё в институте я применил этот метод аналогий на курсе философии. Нужно было написать какой-то реферат, философия была откровенно не моим предметом, и я листал учебник в поисках темы, на которую мне было бы что сказать. И на Платоне-Сократе я вдруг увидел аналогию с объектно-ориентированным программированием. После чего «переписал» оригинальный текст в терминах ООП, со своими комментариями. Текст, к сожалению, не сохранился, но я помню собственный восторг, когда я писал фразу типа «это всё потому, что Сократ не знал об абстрактных классах!»
Возвращаясь к книге. Вторая претензия тоже со стороны читателя-чайника - мне не хватает контекста. Вот автор пишет что-то уверенно пишет - но насколько это является общепризнанным? Какие есть альтернативные варианты толкования этого же? Во время заседания клуба Ю. высказал претензию о том, что автор «подминает под себя» кучу работ, которые были сделаны до него - и это тоже сюда же. По-хорошему, научпоп должен начинаться с краткой истории темы и общего обзора текущего положения. А здесь этого нет.
Из понравившихся мелочей. Диалог (узнал для себя фамилию Витгенштейна, во время заседания клуба мне посоветовали пару книг - «Задачу о вагонетке» и «Кочергу Витгенштейна», чтобы закрепить это имя) о том, почему нам кажется, что Солнце вращается вокруг Земли. Кажется очевидным ответ: потому что это интуитивная интерпретация той картинки, которая перед нашими глазами. После чего можно спросить: а как могла бы выглядеть картинка, чтобы нам казалось интуитивно верным вращение Земли вокруг Солнца? И тут ты понимаешь, что это не «нам не повезло, нам попался мир, в котором картинка приводит к интуитивному выводу, противоречащему истине». Это «нам не повезло, нам попался мир, в котором нет картинки, интуитивный вывод из которой соответствует истине». А то и «нам не повезло, наш механизм формирования интуитивных интерпретаций не предусматривает такой картинки мира, что...»
Мне сложно понять степень доказуемости тезиса о вот этих вот двух встречных потоках информации: данные о внешнем мире с одной стороны и ошибка предсказания навстречу. Но автор в книге приводит кучу примеров, которые если не доказывают этот тезис, то хотя бы не противоречат ему. В основном факты о том, что наш мозг постоянно пытается угадать контекст поступающей к нему информации. Классические примеры с цветом: мы видим не то, что непосредственно следует из возбуждения палочек и колбочек, а то, как интерпретирует эти возбуждения наш мозг. Все вот эти оптические иллюзии, когда пиксели объективно одного и того же цвета мы воспринимаем по-разному. Автор вспомнил даже вирусный мем 2015 года с чёрно-синим (зачёркнуто) бело-золотистым платьем.
Вообще, на тему восприятия цвета он очень много рассказывал (я при этом допускаю, что просто эти фрагменты книги были самыми доступными, поэтому они и мне лучше запомнились, и на обсуждении мы больше всего про них говорили). О том, существует ли вообще понятие «красности» в природе - или это наше восприятие «делает предмет красным». Это очень богатая тема. С одной стороны, кто из нас в детстве не задумывался, одинаково ли все мы видим цвета? Вдруг я вижу красный, как ты зелёный, а зелёный - как ты красный? Ведь нет никакого метода проверить соответствие наших представлений о цвете. Сейчас я понимаю саму бессмысленность вопроса, а в детстве просто с удовольствием констатировал невозможность такого эксперимента. Ну и помечтал немного о фантастических приборах, которые могли бы переносить мой разум в голову другого, чтобы я мог реально увидеть мир глазами другого - собственно, об этом и вся наша книга. Что такое «я», которое предполагается перенести?
Уже после прочтения книги мы были в горах с моими канадскими племянниками, и К. задал мне ровно этот же вопрос: а как мы можем быть уверены, что мы одинаково видим красный цвет? Тут я, конечно, вспомнил другую книгу, где автор очень красиво описал общение с детьми / внуками, как возможность заново пережить собственное детство. Очень трогательный момент!
А вторая тема - восприятие искусства. Автор книги вскользь проходится о том, что художники не занимаются «воспроизведением реальности», потому что что такое реальность? Как мы видели, мы её воспринимаем даже не на основании объективных сигналов с датчиков наших глаз, а на основании наших гипотез о том, что могло бы эти сигналы вызвать. Вот и художник - он не имитирует реалистические сигналы, он пытается делать такие предметы, которые вызывали бы такие сигналы, на которые наш мозг реагировал бы нужным художнику методом. Это совсем не то, что имелось в виду в фразе о сотрудничестве художника и зрителя, но все ключевые слова совпадают :-) Ну и заодно отвечает на вопрос, почему кто-то видит искусство там, где другой не видит.
К этой теме agavr на обсуждении рассказал байку об археологах, открывших какую-то первую пещеру с наскальными рисунками и не заметивших их. Потому что глаз не искал мамонтов, мозг не пытался интерпретировать конкретно эти пятна. Сет в своём выступлении на TED показывает аналогичную штуку со звуком: какой-то странный звук никак не интерпретируется нашим мозгом, но после того, как нам скажут похожую на него фразу, мы не можем не слышать её в этом звуке. Красивый эффект!
Это не из книги, но я когда-то читал о том, что наш мозг усиливает неожиданные сигналы и ослабляет предсказанные (это хорошо вписывается в идею книги). И там был прекрасное наблюдение о том, как начинаются потасовки в ясельной группе: ребёнок касается другого, просто чтобы потрогать, исследовать его. Второй ребёнок пытается воспроизвести это действие, но поскольку он не ожидал первого касания, то он воспринял его сильнее, чем оно было на самом деле. Плюс, поскольку он ожидает второго касания, он делает его чуть сильнее, чтобы выравнять оба жеста у себя в голове. В итоге второе касание получается сильнее первого, это уже потрясываение. В ответ мы получается толчок, потом тумак, и очень скоро эта сцена перерастает в мордобой.
Одна из глав о восприятии времени. Понятно, что само понятие времени более чем мутное, а тут вопрос - как мы его ощущаем. В качестве анекдота автор приводит эксперимент (к сожалению, ничего ни доказавший, ни опровергнувший), когда учёные давали испытуемым экран, на котором быстро менялись какие-то числа. Затем они подобрали скорость смены чисел таким образом, чтобы человек не успевал из сознательно считывать. А затем они брали этих людей и сбрасывали их (вместе с экранами) с башенного крана. Идея эксперимента была в том, чтобы проверить, можно ли объяснить ощущение замедления времени в стрессовых ситуациях разгоном тактовой частоты какого-то внутреннего процессора у нас в головах. Мы все попадали в ситуации, когда нам казалось, что время чуть ли не остановилось, а мы успевали подумать о многом, и даже удивиться, как это мы успели, как медленно течёт время. Но конкретно этот эксперимент не дал никакой численной оценки - падавшим с крана людям тоже казалось, что их время замедлилось, но никаких дополнительных цифр с экрана они не успевали прочитать.
Впрочем, пишет Анил Сет, хороший тамада это не повод не восхититься фантазией авторов эксперимента!
В какой-то момент упоминается автопортрет Эрнста Маха «С точки зрения левого глаза»:
В книге это достаточно проходной момент, а для меня это очевидная ассоциация с работой Андрея Ерофеева, когда на картинах придуманного им одноглазого художника в кадре постоянно был нос. Это была такая пародия на людей, считавших себя специалистами в искусстве после того, как они выучили парочку популярных признаков известных художников. Типа «Мона - пятна, Мане - лица». Вот, типа, вам идеальный художник с характерной чертой, не позволяющей перепутать его с кем бы то ни было!
Предпоследняя глава просто прекрасна. Она о свободе воли и детерминизме. Пересказывать её, очевидно, бессмысленно, но мне и сама тема очень близка (см. старый пост про биографию Эйнштейна), и точка зрения Сета понравилась.
А последняя глава про искусственный интеллект. Насколько всё описанное к нему применимо? Эта глава лично меня как раз не сильно заинтересовала - я к правам искусственного интеллекта отношусь примерно так же, как к правам животных: захотим (мы, люди) считаться с их правами - будем считаться, не захотим - не будем. То есть, я не представляю никаких логических аргументов ни за, ни против - это наша конвенция, такая же как «не убий». Нам удобнее жить в обществе с запретом на убийство - вот мы его и запретили. Нам будет удобно жить в обществе с правами комаров - введём права комаров. Искать же во всём этом какую-то логику кроме «нам так удобнее» мне кажется странным.
В контексте ИИ Сет упоминает сценарий того, что все мы - компьютерная симуляция. Опять же, для меня очевидная отсылка к L’Anomalie - упомянул книгу на обсуждении, вместе с невозможностью понять, являемся ли мы симуляцией или нет. А следовательно, как в том анекдоте «официант, это чай или кофе? - вы что, сами не можете понять? - нет! - тогда, какая вам разница?», если мы не можем увидеть разницу, то и нам должно быть всё равно. Вот узнаю я завтра, что я - компьютерная симуляция, и что изменится для меня? Да ровным счётом ничего. agavr показался в этом месте удивлённым, спросил остальных - и практически все присутствующие моментально ответили, что да, им тоже всё равно. Я так и не понял, что Сашу так удивило.
На обсуждении книги Ю. посетовал, что в ней не было никакого упоминания зависимости восприятия от языка. Классический пример - всё те же цвета. Если у нас в языке много слов для цветов - то мы их и различаем лучше.
Для меня это не самая страшная критика - мало ли, чего ещё в этой книге нет. Зато я тут же вспомнил о наших курсах дегустации вина, когда нам то же самое рассказывали об обонянии. Традиционно в языке очень мало слов для описания запахов, и если мы хотим развить в себе способность различать и запоминать запахи, нам нужно начать с формирования словаря. Отсюда и идут в описании вин все эти (достаточно анекдотические на мой взгляд) «торфяной запах», «старая кожа» и пр.
Книга интересная, но у меня к ней пара претензий. Во-первых, лично мне было очень сложно её читать, это не мой уровень. Да, осилил, но только где-то к середине книги понял какие-то идеи, которыми автор оперировал с самого начала. Надо бы перечитать книгу, чтобы понять теперь лучше - да где же найти на всё это время.
Кстати, забавно с моментом понимания: читаю про то, как наш мозг не просто воспринимает сигналы «снаружи» (нервные сигналы от внешних рецепторов к мозгу), но и пытается предсказывать, какими будут эти сигналы. То есть, мозг представляет какую-то картину мира, пытается вообразить, какими в этом случае должны быть внешние сигналы, и потом сравнивает свои предсказания с тем, что ему реально поступает. И я «узнал» вот этот механизм, когда по одному и тому же каналу в одну сторону идёт сигнал из внешнего мира, а в другую - ошибка предсказания, вспомнив схему обучения нейронных сетей. Когда сначала идёт анализ входного сигнала, используя случайную настройку сети, затем результат сравнивается с известным заранее правильным результатом, а затем по сети в обратном направлении прогоняется ошибка предсказания, позволяющая лучше настроить параметры сети. Очевидно, что не надо в этот момент кричать «ура, мозг работает точно так же, как и нейронка на компьютере!» - об этой ошибке сказано уже много, не будем поддаваться лёгкости параллелей. Я же вспомнил Фейнмана, который рекомендовал при изучении чего бы то ни было нового, представлять себе какую-то простую модель «на пальцах». И следить, когда эта модель работает, а когда перестаёт - в этот момент, говорил Фейнман, и начинается самое интересное, то, ради чего вы и пытались учить что-то для себя новое. Собственно, после этой аналогии книгу читать стало существенно проще. Поэтому и хочется перечитать её сначала.
Лирическое отступление: вспомнил, как ещё в институте я применил этот метод аналогий на курсе философии. Нужно было написать какой-то реферат, философия была откровенно не моим предметом, и я листал учебник в поисках темы, на которую мне было бы что сказать. И на Платоне-Сократе я вдруг увидел аналогию с объектно-ориентированным программированием. После чего «переписал» оригинальный текст в терминах ООП, со своими комментариями. Текст, к сожалению, не сохранился, но я помню собственный восторг, когда я писал фразу типа «это всё потому, что Сократ не знал об абстрактных классах!»
Возвращаясь к книге. Вторая претензия тоже со стороны читателя-чайника - мне не хватает контекста. Вот автор пишет что-то уверенно пишет - но насколько это является общепризнанным? Какие есть альтернативные варианты толкования этого же? Во время заседания клуба Ю. высказал претензию о том, что автор «подминает под себя» кучу работ, которые были сделаны до него - и это тоже сюда же. По-хорошему, научпоп должен начинаться с краткой истории темы и общего обзора текущего положения. А здесь этого нет.
Из понравившихся мелочей. Диалог (узнал для себя фамилию Витгенштейна, во время заседания клуба мне посоветовали пару книг - «Задачу о вагонетке» и «Кочергу Витгенштейна», чтобы закрепить это имя) о том, почему нам кажется, что Солнце вращается вокруг Земли. Кажется очевидным ответ: потому что это интуитивная интерпретация той картинки, которая перед нашими глазами. После чего можно спросить: а как могла бы выглядеть картинка, чтобы нам казалось интуитивно верным вращение Земли вокруг Солнца? И тут ты понимаешь, что это не «нам не повезло, нам попался мир, в котором картинка приводит к интуитивному выводу, противоречащему истине». Это «нам не повезло, нам попался мир, в котором нет картинки, интуитивный вывод из которой соответствует истине». А то и «нам не повезло, наш механизм формирования интуитивных интерпретаций не предусматривает такой картинки мира, что...»
Мне сложно понять степень доказуемости тезиса о вот этих вот двух встречных потоках информации: данные о внешнем мире с одной стороны и ошибка предсказания навстречу. Но автор в книге приводит кучу примеров, которые если не доказывают этот тезис, то хотя бы не противоречат ему. В основном факты о том, что наш мозг постоянно пытается угадать контекст поступающей к нему информации. Классические примеры с цветом: мы видим не то, что непосредственно следует из возбуждения палочек и колбочек, а то, как интерпретирует эти возбуждения наш мозг. Все вот эти оптические иллюзии, когда пиксели объективно одного и того же цвета мы воспринимаем по-разному. Автор вспомнил даже вирусный мем 2015 года с чёрно-синим (зачёркнуто) бело-золотистым платьем.
Вообще, на тему восприятия цвета он очень много рассказывал (я при этом допускаю, что просто эти фрагменты книги были самыми доступными, поэтому они и мне лучше запомнились, и на обсуждении мы больше всего про них говорили). О том, существует ли вообще понятие «красности» в природе - или это наше восприятие «делает предмет красным». Это очень богатая тема. С одной стороны, кто из нас в детстве не задумывался, одинаково ли все мы видим цвета? Вдруг я вижу красный, как ты зелёный, а зелёный - как ты красный? Ведь нет никакого метода проверить соответствие наших представлений о цвете. Сейчас я понимаю саму бессмысленность вопроса, а в детстве просто с удовольствием констатировал невозможность такого эксперимента. Ну и помечтал немного о фантастических приборах, которые могли бы переносить мой разум в голову другого, чтобы я мог реально увидеть мир глазами другого - собственно, об этом и вся наша книга. Что такое «я», которое предполагается перенести?
Уже после прочтения книги мы были в горах с моими канадскими племянниками, и К. задал мне ровно этот же вопрос: а как мы можем быть уверены, что мы одинаково видим красный цвет? Тут я, конечно, вспомнил другую книгу, где автор очень красиво описал общение с детьми / внуками, как возможность заново пережить собственное детство. Очень трогательный момент!
А вторая тема - восприятие искусства. Автор книги вскользь проходится о том, что художники не занимаются «воспроизведением реальности», потому что что такое реальность? Как мы видели, мы её воспринимаем даже не на основании объективных сигналов с датчиков наших глаз, а на основании наших гипотез о том, что могло бы эти сигналы вызвать. Вот и художник - он не имитирует реалистические сигналы, он пытается делать такие предметы, которые вызывали бы такие сигналы, на которые наш мозг реагировал бы нужным художнику методом. Это совсем не то, что имелось в виду в фразе о сотрудничестве художника и зрителя, но все ключевые слова совпадают :-) Ну и заодно отвечает на вопрос, почему кто-то видит искусство там, где другой не видит.
К этой теме agavr на обсуждении рассказал байку об археологах, открывших какую-то первую пещеру с наскальными рисунками и не заметивших их. Потому что глаз не искал мамонтов, мозг не пытался интерпретировать конкретно эти пятна. Сет в своём выступлении на TED показывает аналогичную штуку со звуком: какой-то странный звук никак не интерпретируется нашим мозгом, но после того, как нам скажут похожую на него фразу, мы не можем не слышать её в этом звуке. Красивый эффект!
Это не из книги, но я когда-то читал о том, что наш мозг усиливает неожиданные сигналы и ослабляет предсказанные (это хорошо вписывается в идею книги). И там был прекрасное наблюдение о том, как начинаются потасовки в ясельной группе: ребёнок касается другого, просто чтобы потрогать, исследовать его. Второй ребёнок пытается воспроизвести это действие, но поскольку он не ожидал первого касания, то он воспринял его сильнее, чем оно было на самом деле. Плюс, поскольку он ожидает второго касания, он делает его чуть сильнее, чтобы выравнять оба жеста у себя в голове. В итоге второе касание получается сильнее первого, это уже потрясываение. В ответ мы получается толчок, потом тумак, и очень скоро эта сцена перерастает в мордобой.
Одна из глав о восприятии времени. Понятно, что само понятие времени более чем мутное, а тут вопрос - как мы его ощущаем. В качестве анекдота автор приводит эксперимент (к сожалению, ничего ни доказавший, ни опровергнувший), когда учёные давали испытуемым экран, на котором быстро менялись какие-то числа. Затем они подобрали скорость смены чисел таким образом, чтобы человек не успевал из сознательно считывать. А затем они брали этих людей и сбрасывали их (вместе с экранами) с башенного крана. Идея эксперимента была в том, чтобы проверить, можно ли объяснить ощущение замедления времени в стрессовых ситуациях разгоном тактовой частоты какого-то внутреннего процессора у нас в головах. Мы все попадали в ситуации, когда нам казалось, что время чуть ли не остановилось, а мы успевали подумать о многом, и даже удивиться, как это мы успели, как медленно течёт время. Но конкретно этот эксперимент не дал никакой численной оценки - падавшим с крана людям тоже казалось, что их время замедлилось, но никаких дополнительных цифр с экрана они не успевали прочитать.
Впрочем, пишет Анил Сет, хороший тамада это не повод не восхититься фантазией авторов эксперимента!
В какой-то момент упоминается автопортрет Эрнста Маха «С точки зрения левого глаза»:
В книге это достаточно проходной момент, а для меня это очевидная ассоциация с работой Андрея Ерофеева, когда на картинах придуманного им одноглазого художника в кадре постоянно был нос. Это была такая пародия на людей, считавших себя специалистами в искусстве после того, как они выучили парочку популярных признаков известных художников. Типа «Мона - пятна, Мане - лица». Вот, типа, вам идеальный художник с характерной чертой, не позволяющей перепутать его с кем бы то ни было!
Предпоследняя глава просто прекрасна. Она о свободе воли и детерминизме. Пересказывать её, очевидно, бессмысленно, но мне и сама тема очень близка (см. старый пост про биографию Эйнштейна), и точка зрения Сета понравилась.
А последняя глава про искусственный интеллект. Насколько всё описанное к нему применимо? Эта глава лично меня как раз не сильно заинтересовала - я к правам искусственного интеллекта отношусь примерно так же, как к правам животных: захотим (мы, люди) считаться с их правами - будем считаться, не захотим - не будем. То есть, я не представляю никаких логических аргументов ни за, ни против - это наша конвенция, такая же как «не убий». Нам удобнее жить в обществе с запретом на убийство - вот мы его и запретили. Нам будет удобно жить в обществе с правами комаров - введём права комаров. Искать же во всём этом какую-то логику кроме «нам так удобнее» мне кажется странным.
В контексте ИИ Сет упоминает сценарий того, что все мы - компьютерная симуляция. Опять же, для меня очевидная отсылка к L’Anomalie - упомянул книгу на обсуждении, вместе с невозможностью понять, являемся ли мы симуляцией или нет. А следовательно, как в том анекдоте «официант, это чай или кофе? - вы что, сами не можете понять? - нет! - тогда, какая вам разница?», если мы не можем увидеть разницу, то и нам должно быть всё равно. Вот узнаю я завтра, что я - компьютерная симуляция, и что изменится для меня? Да ровным счётом ничего. agavr показался в этом месте удивлённым, спросил остальных - и практически все присутствующие моментально ответили, что да, им тоже всё равно. Я так и не понял, что Сашу так удивило.
На обсуждении книги Ю. посетовал, что в ней не было никакого упоминания зависимости восприятия от языка. Классический пример - всё те же цвета. Если у нас в языке много слов для цветов - то мы их и различаем лучше.
Для меня это не самая страшная критика - мало ли, чего ещё в этой книге нет. Зато я тут же вспомнил о наших курсах дегустации вина, когда нам то же самое рассказывали об обонянии. Традиционно в языке очень мало слов для описания запахов, и если мы хотим развить в себе способность различать и запоминать запахи, нам нужно начать с формирования словаря. Отсюда и идут в описании вин все эти (достаточно анекдотические на мой взгляд) «торфяной запах», «старая кожа» и пр.