Новые теории решений: классическая, причинная, квантовая, термодинамическая
Теорий решений есть несколько:
-- традиционная, которая связана в том числе с традиционными спорами ординалистов и кардиналистов в экономике, https://plato.stanford.edu/entries/decision-theory/
-- причинная, которая добавляет учёт последствий своих действий рациональным агентом, https://plato.stanford.edu/entries/decision-causal/
-- квантовая как ход на то, как детерминистические разовые физические события проявляются как вероятностная основа для принятия решений, например https://www.livescience.com/quantum-like-model-of-decision-making-proposed.html
-- термодинамическая, через active inference и free energy principle, https://en.wikipedia.org/wiki/Free_energy_principle
Почему в этом важно разобраться? Потому как на этом основании строится праксеология (https://en.wikipedia.org/wiki/Praxeology), которую мы сегодня в интеллект-стеке записали как часть методологии и которая по факту представляет собой теорию того, как действуют агенты. Действуют -- это рассуждают (для этого есть теория решений) и меняют состояние окружения, используя какие-то средства/affordances.
Выход в физику агентов тут даёт constructor theory, https://en.wikipedia.org/wiki/Constructor_theory -- там важно, что constructor/строитель/создатель это некоторая физическая система, которая умеет произвести предписанное изменение в своём окружении при помощи каких-то внешних средств, оставаясь при этом неизменной. Важно, что это может быть что-то совсем неживое, робот с компьютерным алгоритмом внутри, робот с AGI внутри (то есть уже агент), а также животное или даже человек (биологический агент). Если идти по этой линии вычислений в агенте, то быстро попадаем в теорию решений, в которой вероятность нужна только для принятия решений, а не физична -- и формулировки идут через контрафактуальность и возможные миры, при этом случайности (недетерминистичность) исключаются из физики. Это даёт как раз ход на фундаментальные основы для квантовых теорий решений (начиная с Льюисовского principal principle, что человек действует, исходя из шансов и дальше выхода на аксиому деятельности про выбор средств для действия и следующую из него праксиологию).
Традиционно на базе теории решений строилась праксеология https://en.wikipedia.org/wiki/Praxeology, и Людвиг фон Мизес даже считал экономику (в варианте австрийской школы) поддисциплиной праксеологии, а другими дисциплинами там были (тоже "австрийские", то есть праксеологические) право, социология, но эти проекты не взлетели, а австрийская экономика, https://en.wikipedia.org/wiki/Austrian_School, вполне взлетела и до сих пор жива, находясь до сих пор в контрах с мейнстримной экономикой по методологическим расхождениям. Австрийцы интуитивно понимают, что речь идёт о графах причинности и объяснениях (и напирают на контрфактуальность), и это задолго до формализации в causal inference, которая только в 21 веке прошла -- поменялась теория решений. А guesses из поперианства австрийцы называли "аксиоматической теорией" (подчёркивая, что аксиомы "кладутся" из ниоткуда, они догадки) и дальше критика и логика делают своё дело. Поэтому австрийцы уклончиво говорили всё время, что они избегают численных моделей, и модели их качественные. Но вполне объяснительные.
Неоклассики обходятся корреляциями и статистическими зависимостями, первый уровень causal ladder, и довольствуются предсказательными моделями, эмпирицизм в чистом виде. Перл ехидничает про экономистов почти ежедневно в своём твиттере (кто ж ещё увлекается "статистическими закономерностями"! Психологи да экономисты, медики да люди из сельского хозяйства). Так что их пока вычёркиваем.
Итак, в 21 веке в эпистемологии произошли очередные подвижки, которые я описал в "Объяснения и исследования: Перл и Дойч, и ещё Марлетто" ( https://ailev.livejournal.com/1605383.html), и о которых австрийские экономисты (по крайней мере вся русскоязычная тусовка австрийцев кроме буквально пары человек) ничего не знают.
Итак, мы можем перейти к причинной теории решений и квантовой теории решений, тем самым впустив эксперименты и опору на физику (при полном понимании того, что решения людей единичны и не могут быть воспроизведены, но в квантовой физике ведь всё то же самое, и можно задействовать constructor theory of probability https://arxiv.org/abs/1507.03287 и ходы на квантовую теорию решений, в ней принятые).
Но и этого оказывается мало, ибо биологи долго разбирались с проблемой индивида https://plato.stanford.edu/archives/win2021/entries/biology-individual/ и вместе с физиками многоуровневой эволюцией как теорией многоуровневого обучения https://arxiv.org/abs/2110.14602, и там получаются про многоуровневость интересные выводы:
-- проблематизация методологического индивидуализма (по факту это вопрос: может ли в теории решений вычисление быть распределённым по людям и компьютерам, то есть можно ли считать какие-то коллективы и сообщество субъектами действия)
-- рынок, инновации, техноэволюция, ценовые сигналы, каталлактику можно рассмотреть по той же линии многоуровневой физической эволюции/обучения, только выход тут на более высокие уровни, меметической эволюции
-- теория институтов (как намекает Дойч, при этом напирая на постепенность изменений, https://conversationswithtyler.com/episodes/david-deutsch/) тоже может быть пересмотрена по линии меметической эволюции и даже стандартизация/привычные законы/custom law могут рассматриваться как какой-то выход в "цифровизацию" (появление генетических уровней по сравнению с фенотипическими)
Как-то боком к этому всему стоит free energy principle, который убирает для агента необходимость стремиться к определённой награде, известному "благу". Само "благо" (награда в reinforcement learning) оказывается "выучиваемым", открываемым и лишь временным. Ибо эволюция работает на новизне и любопытстве.
И ещё пара важных вещей: механистическая теория сознания, которая позволяет агенту управлять ресурсами своих вычислений (сознание как управление вниманием, или управление work space) -- она как-то смыкается с информационными теориями рынка, где ценовые сигналы привлекают внимание (производственные возможности). Это к тому, что эволюционные процессы с их термодинамикой и теория принятия решений работают на многих уровнях вычислений/обучения -- от "внутри мозга" (квантовые теории принятия решений про это тоже, я ссылку на это привёл, равно как и теории сознания) до "внутри общества" (почему бы и нет, и тут можно тоже рассуждать о таком, скажем биржа как механизм внимания к товарам/бумагам/рынкам: через биржу происходит относительно небольшой объём торговли, но зато она формирует чёткий и надёжный сигнал о ценах).
И ещё одно тут -- это дойчевский fun criterion, необходимость опоры в рациональных рассуждениях агентов не только на полностью формализованную информацию, несводимость всего знания к knowledge graphs с их формализацией (подробней я писал об этом в рассказе про видео Дойча в https://ailev.livejournal.com/1611565.html). Это к вопросу о "формальных теориях решений", они оказываются не такими уж формальными, ибо всегда подразумевают участие tacit knowledge, осознаваемого и неосознаваемого. Теории решений тем самым всегда будут иметь дело с неопределённостью, несводимостью принятия решения к формальному явному задействованию логики, и это вполне будет рационально!
В интеллект-стеке значительная часть всего этого уйдёт в методологию, которая разбирается с агентами. Но в целом после этих разборок придётся переписать ОдО и уж там посмотрим, каким станет интеллект-стек после этого. Какие проблемы решаем? Их там множество:
-- системное мышление в связи с многоуровневой эволюцией (возврат биологичности и физичности в системное мышление)
-- тексты и контексты в описаниях против системы в окружении в физике (писал в https://ailev.livejournal.com/1610230.html по мотивам Lenat и Sowa), и там ещё семантика (как часть computer science) по связи их друг с другом. Помним, что смысл текстам в контексте всегда задаёт вычислитель, а физика так просто исполняется вселенной. И тут рассмотрение кроме агента ещё и демиурга, который задаёт его среду (если речь идёт о моделировании, конечно).
-- универсальные алгоритмы и выход на проблемы сознания (агенты, active inference, xGI все по этой линии).
-- паттернированность во времени, в том числе многомасштабность времени в ходе многоуровневой эволюции (медленность генетической/цифровой эволюции, быстрость фенотипической адаптации)
-- рабочая теория решений для людей и фирм, чтобы просто более осмысленно принимать отдельные решения в условиях неопределённости. Как и что считать в реальной жизни, если хочется опереться хоть на что-то формальное?! Хотя помним, что в этих подсчётах важно учитывать fun criterion.
-- ... там ещё много чего решается, я регулярно пишу про это.
Это я чуть-чуть раскрыл со ссылками часть программы исследований из "Куда думать в первом квартале 2022", https://ailev.livejournal.com/1601601.html и добавил некоторые мысли последних дней, просто чтобы не терялись. Сам вопрос гармонизации всей этой кучи самых разных теорий мы обсуждали на встрече лаборатории внимания в прошлый четверг, https://www.youtube.com/watch?v=pf5zS6_lnE0, и там тоже несколько интересных линий рассуждения. Текст не самый попсовый, не на широкую аудиторию. Это ж "Лабораторный журнал", моё путанное поначалу "мышление письмом". Тут я даже не всё зацепил из уже обсуждённого в текстах по ссылкам в этом абзаце, но уж что зацепил, то дал уже с какими-то ссылками хотя бы на википедию и с каким-то подобием сюжета рассказа. До конца года я планирую потихоньку распутывать этот клубочек, результаты лягут в основу обновлённого интеллект-стека, а затем войдут в наши курсы.
UPDATE: https://www.facebook.com/ailevenchuk/posts/10222463586192496
-- традиционная, которая связана в том числе с традиционными спорами ординалистов и кардиналистов в экономике, https://plato.stanford.edu/entries/decision-theory/
-- причинная, которая добавляет учёт последствий своих действий рациональным агентом, https://plato.stanford.edu/entries/decision-causal/
-- квантовая как ход на то, как детерминистические разовые физические события проявляются как вероятностная основа для принятия решений, например https://www.livescience.com/quantum-like-model-of-decision-making-proposed.html
-- термодинамическая, через active inference и free energy principle, https://en.wikipedia.org/wiki/Free_energy_principle
Почему в этом важно разобраться? Потому как на этом основании строится праксеология (https://en.wikipedia.org/wiki/Praxeology), которую мы сегодня в интеллект-стеке записали как часть методологии и которая по факту представляет собой теорию того, как действуют агенты. Действуют -- это рассуждают (для этого есть теория решений) и меняют состояние окружения, используя какие-то средства/affordances.
Выход в физику агентов тут даёт constructor theory, https://en.wikipedia.org/wiki/Constructor_theory -- там важно, что constructor/строитель/создатель это некоторая физическая система, которая умеет произвести предписанное изменение в своём окружении при помощи каких-то внешних средств, оставаясь при этом неизменной. Важно, что это может быть что-то совсем неживое, робот с компьютерным алгоритмом внутри, робот с AGI внутри (то есть уже агент), а также животное или даже человек (биологический агент). Если идти по этой линии вычислений в агенте, то быстро попадаем в теорию решений, в которой вероятность нужна только для принятия решений, а не физична -- и формулировки идут через контрафактуальность и возможные миры, при этом случайности (недетерминистичность) исключаются из физики. Это даёт как раз ход на фундаментальные основы для квантовых теорий решений (начиная с Льюисовского principal principle, что человек действует, исходя из шансов и дальше выхода на аксиому деятельности про выбор средств для действия и следующую из него праксиологию).
Традиционно на базе теории решений строилась праксеология https://en.wikipedia.org/wiki/Praxeology, и Людвиг фон Мизес даже считал экономику (в варианте австрийской школы) поддисциплиной праксеологии, а другими дисциплинами там были (тоже "австрийские", то есть праксеологические) право, социология, но эти проекты не взлетели, а австрийская экономика, https://en.wikipedia.org/wiki/Austrian_School, вполне взлетела и до сих пор жива, находясь до сих пор в контрах с мейнстримной экономикой по методологическим расхождениям. Австрийцы интуитивно понимают, что речь идёт о графах причинности и объяснениях (и напирают на контрфактуальность), и это задолго до формализации в causal inference, которая только в 21 веке прошла -- поменялась теория решений. А guesses из поперианства австрийцы называли "аксиоматической теорией" (подчёркивая, что аксиомы "кладутся" из ниоткуда, они догадки) и дальше критика и логика делают своё дело. Поэтому австрийцы уклончиво говорили всё время, что они избегают численных моделей, и модели их качественные. Но вполне объяснительные.
Неоклассики обходятся корреляциями и статистическими зависимостями, первый уровень causal ladder, и довольствуются предсказательными моделями, эмпирицизм в чистом виде. Перл ехидничает про экономистов почти ежедневно в своём твиттере (кто ж ещё увлекается "статистическими закономерностями"! Психологи да экономисты, медики да люди из сельского хозяйства). Так что их пока вычёркиваем.
Итак, в 21 веке в эпистемологии произошли очередные подвижки, которые я описал в "Объяснения и исследования: Перл и Дойч, и ещё Марлетто" ( https://ailev.livejournal.com/1605383.html), и о которых австрийские экономисты (по крайней мере вся русскоязычная тусовка австрийцев кроме буквально пары человек) ничего не знают.
Итак, мы можем перейти к причинной теории решений и квантовой теории решений, тем самым впустив эксперименты и опору на физику (при полном понимании того, что решения людей единичны и не могут быть воспроизведены, но в квантовой физике ведь всё то же самое, и можно задействовать constructor theory of probability https://arxiv.org/abs/1507.03287 и ходы на квантовую теорию решений, в ней принятые).
Но и этого оказывается мало, ибо биологи долго разбирались с проблемой индивида https://plato.stanford.edu/archives/win2021/entries/biology-individual/ и вместе с физиками многоуровневой эволюцией как теорией многоуровневого обучения https://arxiv.org/abs/2110.14602, и там получаются про многоуровневость интересные выводы:
-- проблематизация методологического индивидуализма (по факту это вопрос: может ли в теории решений вычисление быть распределённым по людям и компьютерам, то есть можно ли считать какие-то коллективы и сообщество субъектами действия)
-- рынок, инновации, техноэволюция, ценовые сигналы, каталлактику можно рассмотреть по той же линии многоуровневой физической эволюции/обучения, только выход тут на более высокие уровни, меметической эволюции
-- теория институтов (как намекает Дойч, при этом напирая на постепенность изменений, https://conversationswithtyler.com/episodes/david-deutsch/) тоже может быть пересмотрена по линии меметической эволюции и даже стандартизация/привычные законы/custom law могут рассматриваться как какой-то выход в "цифровизацию" (появление генетических уровней по сравнению с фенотипическими)
Как-то боком к этому всему стоит free energy principle, который убирает для агента необходимость стремиться к определённой награде, известному "благу". Само "благо" (награда в reinforcement learning) оказывается "выучиваемым", открываемым и лишь временным. Ибо эволюция работает на новизне и любопытстве.
И ещё пара важных вещей: механистическая теория сознания, которая позволяет агенту управлять ресурсами своих вычислений (сознание как управление вниманием, или управление work space) -- она как-то смыкается с информационными теориями рынка, где ценовые сигналы привлекают внимание (производственные возможности). Это к тому, что эволюционные процессы с их термодинамикой и теория принятия решений работают на многих уровнях вычислений/обучения -- от "внутри мозга" (квантовые теории принятия решений про это тоже, я ссылку на это привёл, равно как и теории сознания) до "внутри общества" (почему бы и нет, и тут можно тоже рассуждать о таком, скажем биржа как механизм внимания к товарам/бумагам/рынкам: через биржу происходит относительно небольшой объём торговли, но зато она формирует чёткий и надёжный сигнал о ценах).
И ещё одно тут -- это дойчевский fun criterion, необходимость опоры в рациональных рассуждениях агентов не только на полностью формализованную информацию, несводимость всего знания к knowledge graphs с их формализацией (подробней я писал об этом в рассказе про видео Дойча в https://ailev.livejournal.com/1611565.html). Это к вопросу о "формальных теориях решений", они оказываются не такими уж формальными, ибо всегда подразумевают участие tacit knowledge, осознаваемого и неосознаваемого. Теории решений тем самым всегда будут иметь дело с неопределённостью, несводимостью принятия решения к формальному явному задействованию логики, и это вполне будет рационально!
В интеллект-стеке значительная часть всего этого уйдёт в методологию, которая разбирается с агентами. Но в целом после этих разборок придётся переписать ОдО и уж там посмотрим, каким станет интеллект-стек после этого. Какие проблемы решаем? Их там множество:
-- системное мышление в связи с многоуровневой эволюцией (возврат биологичности и физичности в системное мышление)
-- тексты и контексты в описаниях против системы в окружении в физике (писал в https://ailev.livejournal.com/1610230.html по мотивам Lenat и Sowa), и там ещё семантика (как часть computer science) по связи их друг с другом. Помним, что смысл текстам в контексте всегда задаёт вычислитель, а физика так просто исполняется вселенной. И тут рассмотрение кроме агента ещё и демиурга, который задаёт его среду (если речь идёт о моделировании, конечно).
-- универсальные алгоритмы и выход на проблемы сознания (агенты, active inference, xGI все по этой линии).
-- паттернированность во времени, в том числе многомасштабность времени в ходе многоуровневой эволюции (медленность генетической/цифровой эволюции, быстрость фенотипической адаптации)
-- рабочая теория решений для людей и фирм, чтобы просто более осмысленно принимать отдельные решения в условиях неопределённости. Как и что считать в реальной жизни, если хочется опереться хоть на что-то формальное?! Хотя помним, что в этих подсчётах важно учитывать fun criterion.
-- ... там ещё много чего решается, я регулярно пишу про это.
Это я чуть-чуть раскрыл со ссылками часть программы исследований из "Куда думать в первом квартале 2022", https://ailev.livejournal.com/1601601.html и добавил некоторые мысли последних дней, просто чтобы не терялись. Сам вопрос гармонизации всей этой кучи самых разных теорий мы обсуждали на встрече лаборатории внимания в прошлый четверг, https://www.youtube.com/watch?v=pf5zS6_lnE0, и там тоже несколько интересных линий рассуждения. Текст не самый попсовый, не на широкую аудиторию. Это ж "Лабораторный журнал", моё путанное поначалу "мышление письмом". Тут я даже не всё зацепил из уже обсуждённого в текстах по ссылкам в этом абзаце, но уж что зацепил, то дал уже с какими-то ссылками хотя бы на википедию и с каким-то подобием сюжета рассказа. До конца года я планирую потихоньку распутывать этот клубочек, результаты лягут в основу обновлённого интеллект-стека, а затем войдут в наши курсы.
UPDATE: https://www.facebook.com/ailevenchuk/posts/10222463586192496