Почему умные люди верят в глупости
Как нас, таких умных, образованных и с дипломами можно обмануть. Злободневное и политическое, конечно же.
➡ Уклон в сторону положительных данных
"Специфическая и вечная ошибка человеческого понимания - это то, что оно больше заинтересовано в положительном, чем в отрицательном". Френсис Бэкон
В одном эксперименте испытуемые читали сообщение о женщине, которая иллюстрировала различные интравертные и экстравертные модели поведения. Затем испытуемых разделили на две группы. Одну группу попросили оценить, подходит ли эта женщина для работы библиотекарем, а другую - для работы в качестве агента по недвижимости. Представителей обеих групп попросили привести примеры интравертного и экстравертного поведения. Группа, которая определяла ее пригодность для работы библиотекарем, нашла больше примеров интравертного поведения, а группа, которая рассматривала ее как потенциального агента по недвижимости,- экстравертного.
Эта тенденция опасна, поскольку если вы спрашиваете только о том, что подтверждает вашу гипотезу, вы и выявите только эту информацию, создавая ложное впечатление об истинности предположения. Это также означает (в более широком контексте), что люди, которые задают вопросы, уже предполагают положительные ответы.
Итак, мы можем добавить к нашему списку познавательных иллюзий тенденциозность и ошибки интуиции:
3. Мы переоцениваем значение информации, подтверждающей нашу гипотезу;
4. Мы ищем информацию, подтверждающую любую данную гипотезу.
➡ Влияние наших предыдущих представлений
"Я следовал золотому правилу, что, когда появляется новое наблюдение или приходит новая мысль, которая противоречит моим общим результатам, надо обязательно делать памятку, и сразу же, поскольку я знал из предыдущего опыта, что такие факты и мысли чаще ускользают из памяти, чем благоприятные". Чарльз Дарвин
Это недостаток рассуждений, который всем хорошо известен, но даже если это наименее интересная из всех иллюзий познания, поскольку она очевидна, она была продемонстрирована в экспериментах, которые настолько точны, что вы можете посчитать их довольно интересными.
Классическая демонстрация предвзятости в силу наших предыдущих убеждений - это исследование мнения людей о смертной казни. Было собрано большое число сторонников и противников смертной казни. Им были представлены два свидетельства об устрашающем воздействии высшей меры: одно - подтверждающее это воздействие, а другое - доказывающее обратное.
Им показали следующие данные:
• сравнение статистики убийств в одном штате США до введения смертной казни и после;
• сравнение статистики убийств в разных штатах, в некоторых из которых существует смертная казнь.
Но был сделан очень умный ход: и сторонников, и противников высшей меры разделили на две подгруппы. Таким образом, половина противников и сторонников высшей меры имела подкрепление своей точки зрения в виде статистики до/после введения этой меры (первое свидетельство), но опровержение их мнения в виде статистики в разных штатах (второе свидетельство) и наоборот. Когда участников спросили о представленных доказательствах, они сообщили о недостатках в методах исследования, которые противоречили их мнению, но не заметили недостатков в исследовании, которое говорило в их пользу. Половина сторонников высшей меры, например, обнаружила недостатки в идее сравнения данных по разным штатам на основании методологических принципов, поскольку эти данные противоречили их точке зрения, в то время как данные по убийствам до и после введения смертной казни вызвали у них полное доверие; другая половина сторонников, напротив, раскритиковала данные до/после введения казни, поскольку в их случае эти данные противоречили их мнению, а данные по разным штатам поддерживали их точку зрения.
Если выразиться проще, доверие участников испытания к данным исследования было основано не на объективной оценке его методологии, а на том, подтверждали ли эти данные их точку зрения. Это явление достигает своего апогея у практиков альтернативной медицины - или обманщиков,- которые некритически воспринимают любые данные в свою пользу, но скрупулезно выискивают в любом крупном, хорошо проведенном исследовании малейшие недостатки, которые позволят им раскритиковать его результаты.
Вот почему нам необходимы четкие принципы для оценки данных, независимо от их вывода, и в этом состоит основная сила науки. В систематическом обзоре научной литературы исследователи иногда смотрят на качество раздела «методы» вслепую, не заглядывая в результаты, чтобы не быть предвзятыми в своей оценке. Аналогично в медицинских исследованиях существует иерархия доказательств: хорошо проведенное испытание более важно, чем данные опроса в большинстве контекстов, и т.д.
Мы можем дополнить наш список новых взглядов на недостатки интуиции еще одним пунктом:
5. Наша оценка качества новых данных является предвзятой в силу наличия у нас предыдущих представлений.
➡ Социальное влияние
«Влияние сообщества» - это процесс, благодаря которому утверждение превращается в стойкое убеждение, поскольку постоянно повторяется в сообществе. Этот процесс не зависит от того, является ли утверждение проверенным, поддержанным экспериментальными данными, достаточными, чтобы заставить поверить в него здравомыслящих людей.
Влияние сообщества объясняет, как религиозные убеждения передаются из поколения в поколение, а также почему заявления, сделанные в пределах сообщества врачами, психологами, знаменитостями, политиками, гостями ток-шоу, могут так глубоко укорениться и стать более влиятельными, чем научные данные.
"Когда люди не имеют инструмента, чтобы проверить сказанное, и просто следуют за своими надеждами, семена политических манипуляций уже посеяны". Стивен Джей Гулд
Существует много хорошо исследованных областей предвзятости. Мы имеем сильно преувеличенное мнение о себе, что приятно. Большинство людей думают, что они имеют более широкий кругозор, меньше предрассудков, более умны и более искусны в вождении автомобиля, чем среднестатистический гражданин.
Большинство из нас демонстрирует то, что можно назвать «атрибуционной предвзятостью»: мы считаем, что наши успехи - это результат наших собственных способностей, а наши неудачи обусловлены внешними факторами; в то время как в отношении других мы склонны придерживаться противоположного мнения и полагаем, что их успехи - это удачное стечение обстоятельств, а неудачи - результат их собственных промахов. Но мы все не можем быть правы.
И наконец, мы используем контекст и ожидания, чтобы склониться к определенному мнению о ситуации - потому что это единственный способ, которым мы можем думать. Исследования по искусственному интеллекту терпят неудачу в основном из-за «проблемы рамки»: вы можете объяснить компьютеру, как обрабатывать информацию, и дать все необходимые сведения, но как только вы поставите перед ним реальную задачу - например, предложение, которое нужно понять и отреагировать на него,- выяснится, что компьютер делает это гораздо хуже, чем мы могли ожидать, поскольку он не знает, какая информация имеет отношение к проблеме. Это то, что люди хорошо умеют - отфильтровывать ненужную информацию,- но это умение приходит ценой непропорционального преувеличения некоторых контекстуальных данных.
Мы склонны допустить, например, что положительные характеристики объединяются: привлекательные люди должны быть одновременно добрыми; люди, которые кажутся добрыми, должны быть умными и хорошо информированными. Даже это было продемонстрировано экспериментально: сообщения, написанные аккуратным почерком, получили больше баллов, чем идеи тичные по содержанию, но неряшливые; поведение спортивных команд, которые носят черную форму, считается более агрессивным и грубым, чем поведение спортсменов в белой форме.
И несмотря на все ваши усилия, иногда некоторые вещи противоречат интуиции, особенно в науке. Представьте, что в комнате находятся 23 человека. Каков шанс, что у двоих из них день рождения в один день? Один к двум.
Когда вы думаете об окружающем мире, у вас в распоряжении есть целый набор инструментов. Интуиция работает во многих ситуациях, особенно в социальной области: например, что вы думаете по поводу того, обманывает ли вас ваша девушка или можно ли доверять вашему партнеру по бизнесу. Но для математических проблем или оценки причинно-следственных связей она не годится, поскольку полагается на упрощения, которые помогают, когда нам нужно быстро решить сложные познавательные задачи, но допускают неточности, ошибки или неправильные оценки.
Небезопасно оставлять нашу интуицию и наши предрассудки непроверенными и неконтролируемыми: в наших интересах подвергнуть сомнению эти недостатки интуитивного рассуждения там, где мы можем, и для этого существуют методы науки и статистики. Их разумное применение - наше лучшее оружие в борьбе с ошибками, и остается только решить, какой из этих инструментов применять в том или ином случае, поскольку строить отношения с партнером на научной основе так же глупо, как руководствоваться интуицией в установлении причинно-следственных связей.
Отрывок из книги Б.Голдакра «Обман в науке».
➡ Уклон в сторону положительных данных
"Специфическая и вечная ошибка человеческого понимания - это то, что оно больше заинтересовано в положительном, чем в отрицательном". Френсис Бэкон
В одном эксперименте испытуемые читали сообщение о женщине, которая иллюстрировала различные интравертные и экстравертные модели поведения. Затем испытуемых разделили на две группы. Одну группу попросили оценить, подходит ли эта женщина для работы библиотекарем, а другую - для работы в качестве агента по недвижимости. Представителей обеих групп попросили привести примеры интравертного и экстравертного поведения. Группа, которая определяла ее пригодность для работы библиотекарем, нашла больше примеров интравертного поведения, а группа, которая рассматривала ее как потенциального агента по недвижимости,- экстравертного.
Эта тенденция опасна, поскольку если вы спрашиваете только о том, что подтверждает вашу гипотезу, вы и выявите только эту информацию, создавая ложное впечатление об истинности предположения. Это также означает (в более широком контексте), что люди, которые задают вопросы, уже предполагают положительные ответы.
Итак, мы можем добавить к нашему списку познавательных иллюзий тенденциозность и ошибки интуиции:
3. Мы переоцениваем значение информации, подтверждающей нашу гипотезу;
4. Мы ищем информацию, подтверждающую любую данную гипотезу.
➡ Влияние наших предыдущих представлений
"Я следовал золотому правилу, что, когда появляется новое наблюдение или приходит новая мысль, которая противоречит моим общим результатам, надо обязательно делать памятку, и сразу же, поскольку я знал из предыдущего опыта, что такие факты и мысли чаще ускользают из памяти, чем благоприятные". Чарльз Дарвин
Это недостаток рассуждений, который всем хорошо известен, но даже если это наименее интересная из всех иллюзий познания, поскольку она очевидна, она была продемонстрирована в экспериментах, которые настолько точны, что вы можете посчитать их довольно интересными.
Классическая демонстрация предвзятости в силу наших предыдущих убеждений - это исследование мнения людей о смертной казни. Было собрано большое число сторонников и противников смертной казни. Им были представлены два свидетельства об устрашающем воздействии высшей меры: одно - подтверждающее это воздействие, а другое - доказывающее обратное.
Им показали следующие данные:
• сравнение статистики убийств в одном штате США до введения смертной казни и после;
• сравнение статистики убийств в разных штатах, в некоторых из которых существует смертная казнь.
Но был сделан очень умный ход: и сторонников, и противников высшей меры разделили на две подгруппы. Таким образом, половина противников и сторонников высшей меры имела подкрепление своей точки зрения в виде статистики до/после введения этой меры (первое свидетельство), но опровержение их мнения в виде статистики в разных штатах (второе свидетельство) и наоборот. Когда участников спросили о представленных доказательствах, они сообщили о недостатках в методах исследования, которые противоречили их мнению, но не заметили недостатков в исследовании, которое говорило в их пользу. Половина сторонников высшей меры, например, обнаружила недостатки в идее сравнения данных по разным штатам на основании методологических принципов, поскольку эти данные противоречили их точке зрения, в то время как данные по убийствам до и после введения смертной казни вызвали у них полное доверие; другая половина сторонников, напротив, раскритиковала данные до/после введения казни, поскольку в их случае эти данные противоречили их мнению, а данные по разным штатам поддерживали их точку зрения.
Если выразиться проще, доверие участников испытания к данным исследования было основано не на объективной оценке его методологии, а на том, подтверждали ли эти данные их точку зрения. Это явление достигает своего апогея у практиков альтернативной медицины - или обманщиков,- которые некритически воспринимают любые данные в свою пользу, но скрупулезно выискивают в любом крупном, хорошо проведенном исследовании малейшие недостатки, которые позволят им раскритиковать его результаты.
Вот почему нам необходимы четкие принципы для оценки данных, независимо от их вывода, и в этом состоит основная сила науки. В систематическом обзоре научной литературы исследователи иногда смотрят на качество раздела «методы» вслепую, не заглядывая в результаты, чтобы не быть предвзятыми в своей оценке. Аналогично в медицинских исследованиях существует иерархия доказательств: хорошо проведенное испытание более важно, чем данные опроса в большинстве контекстов, и т.д.
Мы можем дополнить наш список новых взглядов на недостатки интуиции еще одним пунктом:
5. Наша оценка качества новых данных является предвзятой в силу наличия у нас предыдущих представлений.
➡ Социальное влияние
«Влияние сообщества» - это процесс, благодаря которому утверждение превращается в стойкое убеждение, поскольку постоянно повторяется в сообществе. Этот процесс не зависит от того, является ли утверждение проверенным, поддержанным экспериментальными данными, достаточными, чтобы заставить поверить в него здравомыслящих людей.
Влияние сообщества объясняет, как религиозные убеждения передаются из поколения в поколение, а также почему заявления, сделанные в пределах сообщества врачами, психологами, знаменитостями, политиками, гостями ток-шоу, могут так глубоко укорениться и стать более влиятельными, чем научные данные.
"Когда люди не имеют инструмента, чтобы проверить сказанное, и просто следуют за своими надеждами, семена политических манипуляций уже посеяны". Стивен Джей Гулд
Существует много хорошо исследованных областей предвзятости. Мы имеем сильно преувеличенное мнение о себе, что приятно. Большинство людей думают, что они имеют более широкий кругозор, меньше предрассудков, более умны и более искусны в вождении автомобиля, чем среднестатистический гражданин.
Большинство из нас демонстрирует то, что можно назвать «атрибуционной предвзятостью»: мы считаем, что наши успехи - это результат наших собственных способностей, а наши неудачи обусловлены внешними факторами; в то время как в отношении других мы склонны придерживаться противоположного мнения и полагаем, что их успехи - это удачное стечение обстоятельств, а неудачи - результат их собственных промахов. Но мы все не можем быть правы.
И наконец, мы используем контекст и ожидания, чтобы склониться к определенному мнению о ситуации - потому что это единственный способ, которым мы можем думать. Исследования по искусственному интеллекту терпят неудачу в основном из-за «проблемы рамки»: вы можете объяснить компьютеру, как обрабатывать информацию, и дать все необходимые сведения, но как только вы поставите перед ним реальную задачу - например, предложение, которое нужно понять и отреагировать на него,- выяснится, что компьютер делает это гораздо хуже, чем мы могли ожидать, поскольку он не знает, какая информация имеет отношение к проблеме. Это то, что люди хорошо умеют - отфильтровывать ненужную информацию,- но это умение приходит ценой непропорционального преувеличения некоторых контекстуальных данных.
Мы склонны допустить, например, что положительные характеристики объединяются: привлекательные люди должны быть одновременно добрыми; люди, которые кажутся добрыми, должны быть умными и хорошо информированными. Даже это было продемонстрировано экспериментально: сообщения, написанные аккуратным почерком, получили больше баллов, чем идеи тичные по содержанию, но неряшливые; поведение спортивных команд, которые носят черную форму, считается более агрессивным и грубым, чем поведение спортсменов в белой форме.
И несмотря на все ваши усилия, иногда некоторые вещи противоречат интуиции, особенно в науке. Представьте, что в комнате находятся 23 человека. Каков шанс, что у двоих из них день рождения в один день? Один к двум.
Когда вы думаете об окружающем мире, у вас в распоряжении есть целый набор инструментов. Интуиция работает во многих ситуациях, особенно в социальной области: например, что вы думаете по поводу того, обманывает ли вас ваша девушка или можно ли доверять вашему партнеру по бизнесу. Но для математических проблем или оценки причинно-следственных связей она не годится, поскольку полагается на упрощения, которые помогают, когда нам нужно быстро решить сложные познавательные задачи, но допускают неточности, ошибки или неправильные оценки.
Небезопасно оставлять нашу интуицию и наши предрассудки непроверенными и неконтролируемыми: в наших интересах подвергнуть сомнению эти недостатки интуитивного рассуждения там, где мы можем, и для этого существуют методы науки и статистики. Их разумное применение - наше лучшее оружие в борьбе с ошибками, и остается только решить, какой из этих инструментов применять в том или ином случае, поскольку строить отношения с партнером на научной основе так же глупо, как руководствоваться интуицией в установлении причинно-следственных связей.
Отрывок из книги Б.Голдакра «Обман в науке».