Rationality: From AI to Zombies
Книги довольно сложно оценивать и сравнивать между собой. Какие-то книги мы ценим за их литературные качества, какие-то - за их увлекательность, какие-то - за идеи, которые они содержат. Для меня есть одна категория книг, стоящая особняком. Это книги, которые каждому стоит прочитать.
Эта оценка не совсем совпадает с "лучшими книгами всех времён". К примеру, мне кажется, что "Братья Карамазовы" и "Сто лет одиночества" - это прекрасные книги, но я не уверен, что каждый человек должен незамедлительно их скачать, и не отрываться от своего Киндла, пока не закончит последнюю страницу. С другой стороны, и книги, которые каждому стоит прочитать, не обязаны быть идеальными. Их язык может не соответствовать всем канонам, и они не обязаны быть увлекательны как "Властелин колец".
Для меня в эту категорию попадает не так много произведений. Первая из таких книг, приходящая на ум - "Вы конечно шутите, мистер Фейнман" ("Surely You're Joking, Mr. Feynman"). Это книга, которая рассказыват нам о том, как мы учимся, и чем настоящее знание отличается от фальшивки. Кроме этой книги, мне кажется, каждому стоит прочесть "1984" и "Animal Farm" Джорджа Оруэлла, чтобы осознать самые большие опасности государственного строя, а также, по разным причинам, "A Player of Games", "Flowers for Algernon", "Catch-22" и возможно ещё пару книг.
Книга, которую я сейчас читаю, называется "Rationality: From AI to Zombies", написана американским специалистом по искусственном интеллекту Элиезером Юдковским, и прочно попадает в описанный выше список.
Юдковский -- американский исследователь в области AI, трансгуманист, автор нескольких книг, основатель коммьюнити LessWrong и Machine Intelligence Research Institute. Но эта его книга почти не затрагивает вопросы AI, сингулярности и прочей футурологии, а посвящена рациональности. Причина, по которой я без колебания рекомендую каждому её прочесть похожа на ту, по которой я рекомендую "Вы конечно шутите, мистер Фейнман". Эта книга про то, как мы думаем, и как рационально искать истину и принимать решения.
Книга собрана из отдельных статей, написанных для сайтов OvercomingBias.com и LessWrong. Статьи связаны между собой достаточно слабо, и читать их можно практически независимо друг от друга. Многие из них посвящены различным когнитивным искажениям (cognitive biases) -- ошибкам в рассуждениях, которые мы часто делаем. Есть разделы, посвящённые более прикладным вещам, типа политики, науки, теории эволюции и т.д. Во многих вопросах он не доказывает какую-то свою точку зрения, а лишь указывает на распространённые ошибки и предлагает способы их избежать.
Может показаться, что написать что-то новое про рациональность в наши дни трудно -- о ней же писал ещё Аристотель. Но у Юдковского (как и у нас с вами) есть важное преимущество перед Аристотелем, Кантом, и даже Расселом с Виттгенштейном. Современная мат. статистика и в особенности байесовская теория вероятности, разработанная в середине 20-го века, дают возможность количественно отвечать на вопросы о вероятности истинности любых утверждений.
Предлагаю всем минуту помедитировать над словосочетаниями "вероятность существования Бога" или "вероятность того, что Путин управляет страной лучше, чем управлял бы Навальный". Для большинства людей обе вероятности не имеют смысла -- как будто они в точности равны 0 или 1. Но в реальном мире это не так. Впрочем, есть и противоположная ошибка: "раз мы не знаем ничего в точности, то я могу верить в то, что захочу". Вероятность 50% это не то же самое, что 10-50%.
Для Юдковского Байесовская теория вероятности и индукция Соломонова являются основами для рациональности. Конечно, в реальности мы почти никогда не можем вычислить точные вероятности событий (хотя Нэйт Сильвер успешно это делает для выборов и спортивных матчей), но само понимание, что эти вероятности существуют, может подтолкнуть нас к правильному способу рассуждений.
В заключение про то, где можно всё это прочитать. В виде отдельных статей книга лежит на LessWrong. Также она доступна для Киндла и в прочих ebook-форматах, а также как подкасты на Castify.
Эта оценка не совсем совпадает с "лучшими книгами всех времён". К примеру, мне кажется, что "Братья Карамазовы" и "Сто лет одиночества" - это прекрасные книги, но я не уверен, что каждый человек должен незамедлительно их скачать, и не отрываться от своего Киндла, пока не закончит последнюю страницу. С другой стороны, и книги, которые каждому стоит прочитать, не обязаны быть идеальными. Их язык может не соответствовать всем канонам, и они не обязаны быть увлекательны как "Властелин колец".
Для меня в эту категорию попадает не так много произведений. Первая из таких книг, приходящая на ум - "Вы конечно шутите, мистер Фейнман" ("Surely You're Joking, Mr. Feynman"). Это книга, которая рассказыват нам о том, как мы учимся, и чем настоящее знание отличается от фальшивки. Кроме этой книги, мне кажется, каждому стоит прочесть "1984" и "Animal Farm" Джорджа Оруэлла, чтобы осознать самые большие опасности государственного строя, а также, по разным причинам, "A Player of Games", "Flowers for Algernon", "Catch-22" и возможно ещё пару книг.
Книга, которую я сейчас читаю, называется "Rationality: From AI to Zombies", написана американским специалистом по искусственном интеллекту Элиезером Юдковским, и прочно попадает в описанный выше список.
Юдковский -- американский исследователь в области AI, трансгуманист, автор нескольких книг, основатель коммьюнити LessWrong и Machine Intelligence Research Institute. Но эта его книга почти не затрагивает вопросы AI, сингулярности и прочей футурологии, а посвящена рациональности. Причина, по которой я без колебания рекомендую каждому её прочесть похожа на ту, по которой я рекомендую "Вы конечно шутите, мистер Фейнман". Эта книга про то, как мы думаем, и как рационально искать истину и принимать решения.
Книга собрана из отдельных статей, написанных для сайтов OvercomingBias.com и LessWrong. Статьи связаны между собой достаточно слабо, и читать их можно практически независимо друг от друга. Многие из них посвящены различным когнитивным искажениям (cognitive biases) -- ошибкам в рассуждениях, которые мы часто делаем. Есть разделы, посвящённые более прикладным вещам, типа политики, науки, теории эволюции и т.д. Во многих вопросах он не доказывает какую-то свою точку зрения, а лишь указывает на распространённые ошибки и предлагает способы их избежать.
Может показаться, что написать что-то новое про рациональность в наши дни трудно -- о ней же писал ещё Аристотель. Но у Юдковского (как и у нас с вами) есть важное преимущество перед Аристотелем, Кантом, и даже Расселом с Виттгенштейном. Современная мат. статистика и в особенности байесовская теория вероятности, разработанная в середине 20-го века, дают возможность количественно отвечать на вопросы о вероятности истинности любых утверждений.
Предлагаю всем минуту помедитировать над словосочетаниями "вероятность существования Бога" или "вероятность того, что Путин управляет страной лучше, чем управлял бы Навальный". Для большинства людей обе вероятности не имеют смысла -- как будто они в точности равны 0 или 1. Но в реальном мире это не так. Впрочем, есть и противоположная ошибка: "раз мы не знаем ничего в точности, то я могу верить в то, что захочу". Вероятность 50% это не то же самое, что 10-50%.
Для Юдковского Байесовская теория вероятности и индукция Соломонова являются основами для рациональности. Конечно, в реальности мы почти никогда не можем вычислить точные вероятности событий (хотя Нэйт Сильвер успешно это делает для выборов и спортивных матчей), но само понимание, что эти вероятности существуют, может подтолкнуть нас к правильному способу рассуждений.
В заключение про то, где можно всё это прочитать. В виде отдельных статей книга лежит на LessWrong. Также она доступна для Киндла и в прочих ebook-форматах, а также как подкасты на Castify.