Как люди рассуждают (пересказ книги The Enigma of Reason)
В этом году на меня произвела огромное впечатление книга The Enigma of Reason (Загадка разума) авторов Хьюго Мерсера и Дэна Спербера. Она достаточно свежая, 2017 года, и изладает убедительные современные теории о том, как люди рассуждают, то есть создают логические цепочки и выражают их в аргументации. Эта книга ответила на множество вопросов, которые накопились у меня, да и, наверное, у всякого человека, считающего себя рациональным.
На такие вопросы, как:
К сожалению, эта книга не переводилась на русский, а мне хотелось бы почаще на неё ссылаться. Поэтому вот пересказ своими словами, по памяти. Сорри, где-то могу ошибиться, и уж точно не приведу источников кроме данной книги (но в книге источники и описания экспериментов были). Следующий текст - максимум, сколько я могу из себя выжать за имеющееся у меня свободное время.
Как мы представляем себя
Современный человек обычно представляет себя следующим образом:
Мозг - это логический аппарат, который контролирует большую часть наших действий, мыслей и заключений. Где-то там ещё есть инстинкты и гормоны, но у человека самый лучший логический аппарат из всех зверей, и если те проводят свою жизнь на поводу у эмоций в непознаваемом мире, то человек видит вещи рационально и действует разумно. Когда мы сталкиваемся с любым вопросом, мы используем мозг, чтобы сделать наиболее выгодное для нас и нашего благополучия решение. Мы делаем это постоянно, на каждом шаге и на каждой фразе, и всегда можем объяснить свои действия. Даже если мы идём на поводу у эмоций, мы всегда можем озвучить внутренний голос и выразить его понятно для окружающих. Наше мышление - это и есть наше сознание, наше поведение, это и есть наше Я.
Мышление с эволюционной точки зрения
Большой мозг - действительно одна из ключевых черт нас как вида. И мы приносим огромные жертвы ради него: его надо кормить, беречь, он мешает репродуктивной функции... В природе ни один вид не эволюционировал специализированный орган, который бы приносил больше проблем, чем пользы. Даже промежуточные стадии специализированных органов, такие как крылья, ещё не пригодные к полёту, выполняли свою функцию - например, охлаждение или маневрирование на бегу. Если орган перестаёт приносить пользу в изменившихся условиях, он очень быстро редуцируется. Так какова функция мозга, которая сделала его выгодным, несмотря на все минусы?
То, что первое приходит на ум - это принятие решений, способствующих выживанию. Животные, правда, выживают и без такого такого супермозга, но, может быть, человек лучше выживает в изменяющихся условиях. Правда, у всех животных-выживальщиков мозг не мешает репродуктивной функции, но хотя бы рациональные решения во всевозможных задачах мы принимаем лучше всех?
Возможно, и лучше всех, но если считать рациональные решения основным назначением человеческого мозга - то он систематически не справляется. Например, широко изучена так называемая "предвзятость подтверждения" - склонность избирательно учитывать только аргументацию в пользу нашей сложившейся точки зрения и игнорировать - контраргументы. Или вот эксперимент, который вы можете провести дома. Даже выпускники ведущих ВУЗов в большинстве своём решают задачу неправильно, но самое удивительное - одинаково неправильно. Множество вариаций этого эксперимента долго не смогли найти, что именно в его условиях подталкивает подопытных к одному и тому же неправильному решению. В "Загадке разума" описано исследование, проливающее свет на проблему: если формулировать задачу так, чтобы в ней упоминались правильные карточки (не меняя сам логический посыл), то магическим образом большинство ответов становятся правильными. Оказывается, мозг не пытается сделать логическое заключение, он просто привык, что часто ответ упоминается в самом вопросе. Примерно как младшеклассников в школе не обмануть формулировками задач про яблоки, ластики и Васю с Петей: они быстро понимают, что решением является сложить, отнять, умножить или поделить два упоминаемых числа, и начинают перебирать, не вдаваясь в логику ситуации.
Таким образом, логическое мышление не может быть назначением большого мозга, поскольку даёт систематичечкие сбои. У мозга другое назначение, где то, что выглядит как системные сбои в логике, является, наоборот, правильным функционированием. Что же это, где нам может быть полезно избирательно учитывать аргументацию в пользу уже имеющейся у нас точки зрения?
Ответ после интерлюдии.
Две системы мышления: быстрая и медленная
Вы замечали, что оказываясь в новой ситуации - если приходите в новый коллектив, или если компьютер совершает неожиданную ошибку, или если торопитесь на незнакомой станции... - то начинаете вести себя как дурак? Говорить невпопад, спотыкаться, тупить... Это не значит, что мы внезапно отупели или что у нас прогрессирует маразм в 30 лет. Просто человеческий мозг быстрее обрабатывает те ситуации, к которым привык.
Почему так?
Потому что в типовых ситуациях мы можем реагировать машинально. Добираясь между работой и домом - вообще думать о своём, тем не менее совершая отнюдь не тривиальные действия по маневрированию в толпе, поворотам, торможению и убыстрению... Готовя привычную еду - машинально насыпать нужное количество специй в нужный момент, отслеживать на слух готовность жарящихся продуктов, управлять кухонной техникой... Это работает быстрая система мышления, состоящая из "интуитивных" модулей, формирующихся в процессе жизненного опыта. "Интуитивные" они потому, что не требуют явных рассуждений, и наитие как бы приходит изнутри само. Естественно, это не подключение к космической инфосфере, это просто "выдрессированная" часть мозга, выполняющая востребованную в жизни индивида функцию - например, выбирающая наилучший маршрут при движении в толпе.
Когда мы попадаем в новую ситуацию, опоры в виде готовых интуитивных модулей нет, и наш биологический компьютер начинает тормозить. Решения принимаются со скоростью, доступной медленной системе мышления. Эту систему можно назвать явной, поскольку мы более ли менее осознаём процесс размышлений. Можно сказать, что это наш внутренний голос и наш внутренний блокнот.
Также следует сказать, что эти две системы, быстрая и медленная, не противопоставлены друг другу: например, математика в основном обрабатывается осознанно - но делимость числа на 10 вы опознаёте машинально, потому что есть простое правило. Над задачами системы обычно работают параллельно, и если мы совершили ошибку, в неудачный момент положившись на привычку, то сами способны заметить это, когда выдаст свой анализ медленное мышление.
Теория двойственности мышления возникла не вчера. Впервые эта двойственность была подмечена ещё в Древней Греции, но научная теория была сформулирована в последней трети XX века. Многое пока остаётся неизученным, однако накопился большой объём экспериментов и доказательств, подтверждающий основные положения этой теории. Другими словами, эта теория объясняет факты о челочеческом мышлении лучше, чем предыдущая доминирующая теория и чем прочие альтернативы.
Назначение способности рассуждать
Ответ на то, зачем может развиться специализированный орган, предпочитающий замечать только аргументы в пользу своей точки зрения - он нужен для аргументирования своей точки зрения! Способность рассуждать нужна для кооперирования между людьми. И не просто для передачи информации, ведь если бы наш успех как вида базировался на точных и правдивых сообщениях, у нас бы выработалось что-то вроде танца пчёл. Ни одна пчела ещё не кинула другую на деньги, объясняя, где найден новый цветочный луг. Напротив, задача человеческой коммуникации - оперативно принимать коллективные решения, например, во время охоты на мамонта или миграции кочевого племени. Коммуникация успешна в том случае, если группа охотников, обменявшись своими мыслями, быстро перешла к следованию новому плану. Провалом коммуникации считается, если охотники спорили до заката, или каждый пошёл добывать мамонта один, или все вроде бы поняли, но на деле кто в лес, кто по дрова, а кто прилёг отдохнуть, пока остальные работают.
Задача человеческой рассуждалки в таком случае - убедить окружающих в своей правоте, не потерпев репутационного ущерба (а лучше - получив репутационный выигрыш). Природа не расточительна и старается сжигать как можно меньше ресурсов - поэтому генерировать аргументы в свою пользу проще, чем предполагать контраргументы к собственным убеждениям. Контраргументы могут быть нужны только для того, чтобы мысленно отрепетировать спор с оппонентом и улучшить свою защиту. Энергетически эффективнее дождаться собственно спора и сориентироваться уже там - может, спор никогда не наступит, а может, оппонент сразу согласится или выскажет совсем другие контраргументы. Да и аргументы "за" мы производим по минимуму, пока не встретим сопротивление. Другими словами, мы не очень-то проверяем логичность собственных суждений, пока не понадобится их доказывать.
Интересно то, что придумывание аргументов - это работа медленной системы мышления... А оценка аргументов (особенно по репутационному ущербу) и формирование собственной точки зрения - работа быстрого, интуитивного, подсознательного мышления. Как и в других случаях, эти две системы работают сообща. Сознание вполне способно поправить ошибку собственной точки зрения, сложившейся машинально, если это мнения окажется невозможно подкрепить убедительными для окружающих аргументами.
Кроме репутационного ущерба, другой мерой силы аргументов является реальная жизнь. Если охотники на мамонта дружно согласятся, что достаточно сеть вокруг костра и ждать, пока мамонт придёт сам, то коммуникация как бы была успешной... Но голод скоро заставит всех передумать.
В итоге, основной метод работы рассуждалки:
Следствия
Зная систему, мы можем сделать выводы о её слабостях:
На такие вопросы, как:
- Почему люди не понимают логичных аргументов, которые я высказываю?
- Почему они они приводят мне очевидно ошибочные аргументы?
- Как они могут верить в очевидную чушь? Почему они не задумаются?
- Почему богатые люди, управленцы и опытные профессионалы, которые должны блистать логикой и компетентностью, говорят глупости так же часто, как и все остальные?
- Почему люди придерживаются или придерживались в историческом прошлом заблуждений, за которые расплачивались здоровьем, свободой и жизнью? Неужели боль и лишения ничему не учат?
- Почему человечество не может собраться и договориться, чтобы перестать воевать, губить экологию и плодить бедность?
К сожалению, эта книга не переводилась на русский, а мне хотелось бы почаще на неё ссылаться. Поэтому вот пересказ своими словами, по памяти. Сорри, где-то могу ошибиться, и уж точно не приведу источников кроме данной книги (но в книге источники и описания экспериментов были). Следующий текст - максимум, сколько я могу из себя выжать за имеющееся у меня свободное время.
Как мы представляем себя
Современный человек обычно представляет себя следующим образом:
Мозг - это логический аппарат, который контролирует большую часть наших действий, мыслей и заключений. Где-то там ещё есть инстинкты и гормоны, но у человека самый лучший логический аппарат из всех зверей, и если те проводят свою жизнь на поводу у эмоций в непознаваемом мире, то человек видит вещи рационально и действует разумно. Когда мы сталкиваемся с любым вопросом, мы используем мозг, чтобы сделать наиболее выгодное для нас и нашего благополучия решение. Мы делаем это постоянно, на каждом шаге и на каждой фразе, и всегда можем объяснить свои действия. Даже если мы идём на поводу у эмоций, мы всегда можем озвучить внутренний голос и выразить его понятно для окружающих. Наше мышление - это и есть наше сознание, наше поведение, это и есть наше Я.
Мышление с эволюционной точки зрения
Большой мозг - действительно одна из ключевых черт нас как вида. И мы приносим огромные жертвы ради него: его надо кормить, беречь, он мешает репродуктивной функции... В природе ни один вид не эволюционировал специализированный орган, который бы приносил больше проблем, чем пользы. Даже промежуточные стадии специализированных органов, такие как крылья, ещё не пригодные к полёту, выполняли свою функцию - например, охлаждение или маневрирование на бегу. Если орган перестаёт приносить пользу в изменившихся условиях, он очень быстро редуцируется. Так какова функция мозга, которая сделала его выгодным, несмотря на все минусы?
То, что первое приходит на ум - это принятие решений, способствующих выживанию. Животные, правда, выживают и без такого такого супермозга, но, может быть, человек лучше выживает в изменяющихся условиях. Правда, у всех животных-выживальщиков мозг не мешает репродуктивной функции, но хотя бы рациональные решения во всевозможных задачах мы принимаем лучше всех?
Возможно, и лучше всех, но если считать рациональные решения основным назначением человеческого мозга - то он систематически не справляется. Например, широко изучена так называемая "предвзятость подтверждения" - склонность избирательно учитывать только аргументацию в пользу нашей сложившейся точки зрения и игнорировать - контраргументы. Или вот эксперимент, который вы можете провести дома. Даже выпускники ведущих ВУЗов в большинстве своём решают задачу неправильно, но самое удивительное - одинаково неправильно. Множество вариаций этого эксперимента долго не смогли найти, что именно в его условиях подталкивает подопытных к одному и тому же неправильному решению. В "Загадке разума" описано исследование, проливающее свет на проблему: если формулировать задачу так, чтобы в ней упоминались правильные карточки (не меняя сам логический посыл), то магическим образом большинство ответов становятся правильными. Оказывается, мозг не пытается сделать логическое заключение, он просто привык, что часто ответ упоминается в самом вопросе. Примерно как младшеклассников в школе не обмануть формулировками задач про яблоки, ластики и Васю с Петей: они быстро понимают, что решением является сложить, отнять, умножить или поделить два упоминаемых числа, и начинают перебирать, не вдаваясь в логику ситуации.
Таким образом, логическое мышление не может быть назначением большого мозга, поскольку даёт систематичечкие сбои. У мозга другое назначение, где то, что выглядит как системные сбои в логике, является, наоборот, правильным функционированием. Что же это, где нам может быть полезно избирательно учитывать аргументацию в пользу уже имеющейся у нас точки зрения?
Ответ после интерлюдии.
Две системы мышления: быстрая и медленная
Вы замечали, что оказываясь в новой ситуации - если приходите в новый коллектив, или если компьютер совершает неожиданную ошибку, или если торопитесь на незнакомой станции... - то начинаете вести себя как дурак? Говорить невпопад, спотыкаться, тупить... Это не значит, что мы внезапно отупели или что у нас прогрессирует маразм в 30 лет. Просто человеческий мозг быстрее обрабатывает те ситуации, к которым привык.
Почему так?
Потому что в типовых ситуациях мы можем реагировать машинально. Добираясь между работой и домом - вообще думать о своём, тем не менее совершая отнюдь не тривиальные действия по маневрированию в толпе, поворотам, торможению и убыстрению... Готовя привычную еду - машинально насыпать нужное количество специй в нужный момент, отслеживать на слух готовность жарящихся продуктов, управлять кухонной техникой... Это работает быстрая система мышления, состоящая из "интуитивных" модулей, формирующихся в процессе жизненного опыта. "Интуитивные" они потому, что не требуют явных рассуждений, и наитие как бы приходит изнутри само. Естественно, это не подключение к космической инфосфере, это просто "выдрессированная" часть мозга, выполняющая востребованную в жизни индивида функцию - например, выбирающая наилучший маршрут при движении в толпе.
Когда мы попадаем в новую ситуацию, опоры в виде готовых интуитивных модулей нет, и наш биологический компьютер начинает тормозить. Решения принимаются со скоростью, доступной медленной системе мышления. Эту систему можно назвать явной, поскольку мы более ли менее осознаём процесс размышлений. Можно сказать, что это наш внутренний голос и наш внутренний блокнот.
Также следует сказать, что эти две системы, быстрая и медленная, не противопоставлены друг другу: например, математика в основном обрабатывается осознанно - но делимость числа на 10 вы опознаёте машинально, потому что есть простое правило. Над задачами системы обычно работают параллельно, и если мы совершили ошибку, в неудачный момент положившись на привычку, то сами способны заметить это, когда выдаст свой анализ медленное мышление.
Теория двойственности мышления возникла не вчера. Впервые эта двойственность была подмечена ещё в Древней Греции, но научная теория была сформулирована в последней трети XX века. Многое пока остаётся неизученным, однако накопился большой объём экспериментов и доказательств, подтверждающий основные положения этой теории. Другими словами, эта теория объясняет факты о челочеческом мышлении лучше, чем предыдущая доминирующая теория и чем прочие альтернативы.
Назначение способности рассуждать
Ответ на то, зачем может развиться специализированный орган, предпочитающий замечать только аргументы в пользу своей точки зрения - он нужен для аргументирования своей точки зрения! Способность рассуждать нужна для кооперирования между людьми. И не просто для передачи информации, ведь если бы наш успех как вида базировался на точных и правдивых сообщениях, у нас бы выработалось что-то вроде танца пчёл. Ни одна пчела ещё не кинула другую на деньги, объясняя, где найден новый цветочный луг. Напротив, задача человеческой коммуникации - оперативно принимать коллективные решения, например, во время охоты на мамонта или миграции кочевого племени. Коммуникация успешна в том случае, если группа охотников, обменявшись своими мыслями, быстро перешла к следованию новому плану. Провалом коммуникации считается, если охотники спорили до заката, или каждый пошёл добывать мамонта один, или все вроде бы поняли, но на деле кто в лес, кто по дрова, а кто прилёг отдохнуть, пока остальные работают.
Задача человеческой рассуждалки в таком случае - убедить окружающих в своей правоте, не потерпев репутационного ущерба (а лучше - получив репутационный выигрыш). Природа не расточительна и старается сжигать как можно меньше ресурсов - поэтому генерировать аргументы в свою пользу проще, чем предполагать контраргументы к собственным убеждениям. Контраргументы могут быть нужны только для того, чтобы мысленно отрепетировать спор с оппонентом и улучшить свою защиту. Энергетически эффективнее дождаться собственно спора и сориентироваться уже там - может, спор никогда не наступит, а может, оппонент сразу согласится или выскажет совсем другие контраргументы. Да и аргументы "за" мы производим по минимуму, пока не встретим сопротивление. Другими словами, мы не очень-то проверяем логичность собственных суждений, пока не понадобится их доказывать.
Интересно то, что придумывание аргументов - это работа медленной системы мышления... А оценка аргументов (особенно по репутационному ущербу) и формирование собственной точки зрения - работа быстрого, интуитивного, подсознательного мышления. Как и в других случаях, эти две системы работают сообща. Сознание вполне способно поправить ошибку собственной точки зрения, сложившейся машинально, если это мнения окажется невозможно подкрепить убедительными для окружающих аргументами.
Кроме репутационного ущерба, другой мерой силы аргументов является реальная жизнь. Если охотники на мамонта дружно согласятся, что достаточно сеть вокруг костра и ждать, пока мамонт придёт сам, то коммуникация как бы была успешной... Но голод скоро заставит всех передумать.
В итоге, основной метод работы рассуждалки:
- Интуитивно сформировать мнение (например, "фильм нравится")
- Мысленно объяснить это для себя одним-двумя аргументами, не перенапрягаясь глубоким анализом ("фильм нравится, потому что крутой герой и эффекты")
- Избирательно замечать вокруг себя только аргументы в пользу своей точки зрения ("а мне нравится, что там не хэппиэнд" - "ну да, тоже круто")
- Отбрасывать те аргументы в пользу своей точки зрения, которые интуитивно кажутся слабыми ("а мне нравится, что этого персонажа сделали женщиной" - "да не, феминизм какой-то")
- Браться придумывать новые аргументы и возражать на контраргументы только в дискуссии с другим человеком, не тратя ресурсы мозга на критическое мышление.
Следствия
Зная систему, мы можем сделать выводы о её слабостях:
- Человек может дойти до чего угодно наедине с самим собой. У него нет оппонентов. У его рассуждалки нет повода глубоко копать и критически мыслить, нет опоры.
- С другой стороны, человек имеет потребность в собеседниках, хотя бы иногда. Мышление не работает полноценно без оппонентов. Без других людей оно начинает буксовать или работать вхолостую, и оба варианта тягостны.
- Без связи с реальностью группа людей может сойтись на чём угодно, потому что сила аргументов будет определяться только репутационным ущербом, и все рассуждения будут политическими. Я думаю, мы можем увидеть этому много подтверждений в реальной жизни, особенно среди обеспеченных людей, которым некуда расти и невозможно упасть.
- Чистой логикой человек тоже может дойти до чего угодно, поскольку чистая математическая логика - абстракция и не описывает реальность. Только кажется, что задачи вида "После 18 часов Джуди всегда готовится в библиотеке; сейчас 18:05; где сейчас Джуди?" - логические. В учебнике они логические, но в реальности факторов гораздо больше. И напротив, сугубо логичные люди сугубо логичным образом иногда приходят к удивительным заключениям, например, Унабомбер.
- За критическое мышление и научный метод надо бороться, потому что они идут в разрез с человеческим мышлением. Огромное достижение, что мы с нашими животными мозгами смогли, во-первых, построить хоть какую-то науку, а во-вторых - не уничтожили себя в процессе. Может, конечно, у нас ещё всё впереди. Но легко убедиться, что любой шаг вперёд в распространении рационального мышления - это шаг против течения.
- Каждым из нас можно манипулировать, поскольку мы далеко не настолько цари в своей голове, какими себя считаем. Подробнее в этом видео (есть русские субтитры).
- Люди редко знают, почему им что-то нравится, потому что это интуитивное суждение, к которому затем мы придумываем объяснения - а не наоборот. Это делает попытки понять, почему публике нравится, например, кино, очень сложной задачей, почти научной, а не "да потому что зритель тупой и ему нравятся взрывы".