ограниченность познания и прочие вопросы искусственного интеллекта
ограниченность познания и прочие вопросы искусственного интеллекта в интерпретации от ника "phenik"
я со многим не согласен, но текст интересный
я выделил наиболее значимые места с моей точки зрения
--------------------
коммент юзера "phenik" 15 октября 2019 в 18:34
https://habr.com/post/471324/#comment_20759022
из темы: Мечтают ли нейросети о Джоконде?
https://habr.com/ru/post/471324/
Присоединяюсь к аргументам Nehc, и добавлю свои. Это упрощенное понимание научного поиска и их результата - научных теорий. В еще большей степени это относится к искусству, как еще менее формализованной области.
Получилось несколько пространно...
Вероятно, в вас говорит инженерное образование, и работа вне стен какого-либо научно-исследовательского учреждения.
Это вовсе не какой-то там упрек, так и должно быть, если деятельность не связана поиском, а выдачей на гора готового продукта, в заданные сроки, заданного качества.
Общий смысл возражений в том, что вы все сводите к некой формализации, и требуете в ней определения научной деятельности и искусства, и наличия готовых метрик, для измерения результатов этой деятельности. Для достижения практического результата это правильная постановки вопроса. Но для понимания сути явления нет! Реальность всегда шире любых ее трактовок, тем более формализаций.
Конкретно по поиску, уже писал ранее, принципиальным моментом являются спонтанные проявления реальности, нельзя заранее точно спланировать направление поиска, кот. приведет к открытию новых фундаментальных фактов, кот., в свою очередь, лягут в основу новой фундаментальной теории. Приблизительно можно, точно нет!
Чем фронт поиска шире, тем вероятность открытия больше. Но и затраты любого рода увеличиваются, число исследователей, число работ, материальные затраты, и тд, причем экспоненциально. Именно эту ситуацию сейчас наблюдаем в фундаментальной физике последние лет 40-к, со времени создания последних успешных теорий КТП и СМ. Посмотрим, как было раньше, во времена создания КМ и СТО с ОТО. Масштаб был меньше, но ситуация абсолютно та же. Существовали классическая механика, и классическая ЭД, две основные фундаментальные теории, каждая со своим описанием. Первая требовала абсолютного евклидового пространства, вторая - эфир, противоречие, как и сейчас противоречие с требованиями кв-мех. описания (корпускулярно-волнового дуализма), и описания ОТО (непрерывный пр-временного континуум). Как был найден выход из противоречия тогда? Во многом случайно. Эксперимент Майкельсона-Морли планировался, как проверка наличия эфира, но неожиданным его результатом стало установление факта постоянства ск. света. Этот новый факт позволил создать Эйнштейну СТО, с учетом требования ее обратной совместимости с клас. механикой. Наблюдение за движением Меркурия выявило неожиданное расхождение с предсказаниями теории тяготения Ньютона смещения его перигелия. Этот факт, и некоторые предположения относительно природы массы, привели к созданию ОТО. Непредвиденные расхождения в объяснении фотоэффекта, и спектра излучения абсолютно черного тела, с классической ЭД привели к квантовым идеям, и с учетом еще нескольких расхождений и обратной совместимости с клас. механикой, к КМ.
Нет никаких указаний на то, что ситуация в перспективе как-то изменится, и что будет создана некая теория Всего, и никаких противоречий в описании не будет иметься, и тем более, что случайно не будут обнаружены новые факты, не объясняемые в рамках этой теории Всего. Ко всему этому добавляется существование более сложных систем, чем физические - биологические и социальные. Но даже в самой физике описание сложных систем не сводится (формально не редуцируется) к некоторым базовым составляющим. Это показывается формально, и относится к эмерджентным свойствам.
Как пример такой не сводимости макроскопического описания свойств магнитных материалов к микроскопическим, см. эту работу.
В общем случае такие доказательства используют различные виды неразрешимостей.
Редукция (в форме физикализма) сочетается с эмерджентностью, по крайней мере, в слабой форме.
Это можно проиллюстрировать на примере возникновения глайдеров в игре Жизнь, для кот. доказано, что она является полной по Тьюрингу.
С одной стороны возникновение глайдеров можно проследить пошагово от начала игры, при заданных начальных условиях, и в этом смысле, они редуцируются к правилам игры. Однако исходя только из правил игры предсказать их существование не возможно (они были открыты случайно), и в этом смысле, глайдеры, как целостные объекты, являются эмерджентными. Чтобы такую редукцию произвести можно расширить правила игры, фактически неявно постулировав существование глайдеров, но это уже не будет самый простой вариант правил игры.
Если это все спроецировать на нашу реальность, то формально поведение таракана можно свести (редуцировать) к законам физики (той самой гипотетической теории Всего), но придется просчитать это от момента самого БВ, с заданием конкретных начальных условий (возможно еще граничных). Это выполнимо, хотя бы в гипотетическом варианте, с помощью некоего квантовово-огого свуперпупер-компа?) Вряд ли.
В это можно только верить. Некоторые физики так и делают, чтобы сохранить детерминизм, т.е. редукционизм в крайней форме, верят в ММИ, чтобы избавится от вероятностной трактовки и коллапса ВФ в КМ:)
Таракан - это такой глайдер в нашей Вселенной, приближенно описывающийся биологическими закономерностями, кот. нельзя редуцировать к физике. И так практически все, даже в самой физике, за редким исключением достаточно простых систем.
По этой причине, поисковую задачу для реальности (познавательную деятельность) нельзя формализовать полностью, и это может иметь последствия для самой поисковой системы, будь то сам человек, или некоторый ИИ. Но это отдельная тема.
Можно также рассмотреть проблему формализации с точки зрения продуктов научного познания - теорий. В общем виде любая теория состоят из двух частей - формальной и неформальной. Не формальная часть содержит концептуальную модель области приложения теории, описываемую понятиями и связями (отношениями) между ними, и основанную на обобщении наблюдаемых и экспериментальных фактов, некоторых метафизических предположениях, и информации из предшествующих исследований в этой области.
Формальная часть содержит математическую модель (формализм), представляемую обычно в аксиоматической форме, частично или полностью перекрывающую понятия и связи концептуальной модели, и имеющая строгую интерпретацию (определения и правила вывода) в ней. Теория может содержать несколько эквивалентных формализмов, которые описывают известные факты из этой области и возможно предсказывают новые. Понятия концептуальной модели всегда имеют определенный физический смысл, являются наблюдаемыми величинами, некоторые понятия формальной нет - могут не иметь физического смысла, и быть не наблюдаемыми.
Рассмотрим эти утверждения на примере понятия массы, как одной из составных частей физ. теорий. В обыденном понимании масса это вес. Положили на весы предмет и гири - узнали его массу. Наука этим не ограничивается, в классической механике масса мера инертности тел. В теории гравитации Ньютона масса мера гравитационных свойств тел. Но Эйнштейн в СТО доказал, что масса эквивалентна энергии, кот. выражается знаменитой формулой E=m*c^2 (в этом виде энергия покоя). Все? Нет, Эйнштейн ввел принцип эквивалентности инертной и гравитационной массы в ОТО, и теперь движущаяся масса (точнее тензор эн-импульса) мера искривления метрики простр-временного континуума, и непосредственно связана с происхождением и эволюцией Вселенной. А еще есть хиггсовский механизм. Так, что такое масса?
Естественно, как обычно, нужно указать теоретический контекст использования этого понятия, чтобы снять неоднозначность. Но все эти интерпретации говорят о том, что масса нечто большее, чем любые из этих определений. Нет гарантий, что в будущем не откроются новые аспекты массы, и не возникнут ее новые определения, в той же теории кв. гравитации. Это наводит на мысль, что понятие массы не сводится даже к самому общему ее определению.
Это уже не однозначность определения, а некая трансцендентность исходно заложенная в него. Как она возникла? Сейчас на это можно ответить - из-за физиологии человека, точнее психофизиологии, подкрепляемой современными нейрофизиологическими исследованиями.
Масса это обобщенное вербальное обозначение (абстракция) чувственного восприятия нагрузки тел на мышечную систему организма, связанную с сопротивлением тел их перемещению, в том числе, собственного тела. Любое чувственное восприятие является субъективным состоянием, некоторым качеством, как сейчас модно говорить - квалия (но можно и без него обойтись). Насколько точно это субъективное состояние - ощущение массы связано с самой массой? Это описывает закон Вебера-Фехнера имеющий нелинейную (логарифмическую) форму зависимости величины ощущения от величины воздействия, в данном случае, величины тяжести тел. Кроме того он задает пороговый характер нарастания величины ощущений. Сами величины порогов могут изменятся в зависимости от многих условий психо-физиологического состояния субъекта. Однако, именно в таком представлении масса имеет эволюционно значимый смысл, полезный для выживания вида.
Таким образом, исходно масса, как термин естественного языка, является идеализацией субъективного состояния, весьма опосредованно связанной с реальной физической массой. Фактически являющегося обозначением (ссылкой) этого феномена, реальное содержание (наполнение) которого раскрывается в его моделировании на уровне абстрактного мышления, на основе наблюдений, целенаправленного опыта, и в более широком плане, всей практической деятельности общества.
Однако формальные абстрактные модели не являются замкнутыми относительно практики, поскольку практика всегда шире модельных представлений. Та самая способность реальности спонтанно проявлять себя в этой практике, о кот. писал выше.
Для аксиоматических систем не замкнутость относительно практики доказывается формально, в виде теорем о неполноте Гёделя. Это относится и к физическим теориям, связанным с объяснением феномена массы.
Дополнительно можно сказать, что формальные аппараты этих теорий подчинятся принципу соответствия, регулирующему наследование поколений теорий, надежно подтвержденных практикой применения. Но это не относится к концептуальным моделям, преемственная теория может содержать утверждения не сводящиеся к утверждениям наследуемой. Как пример, принцип суперпозиции в КМ не имеющий аналога в классической физике.
Эти рассуждения применимы к любым понятиям ЕЯ, связанным с описанием окружающего мира и самого человека, и составляют его концептуальную основу.
Таким как время, пространство, материальное тело, сила, и тд. в физике, или число, точка, прямая, и тд. в математике, жизнь, особь, вид, и тд в биологии, организм, орган, клетка, и тд. в физиологии, личность, мышление, поведение, и др. в психологических науках, общество, культура, индивид, и др. в социологических науках, материя, сознание, познание, и др. в философии.
Это и есть семантика языка, его смысловое наполнение.
Возникает вопрос, насколько это смысловое наполнение, фактически познавательную мощь ЕЯ, может освоить ИИ, не имея связи этих смыслов с субъективными состояниями, кот. у человека возникли эволюционно, совокупно в течении миллиарда лет? Нужно ли ИИ простраивать их самостоятельно, формируя свои собственные субъективные состояния, или как-то подключаться к уже созданному человеком смысловому пространству? Мое мнение, по многим причинам, ИИ должен развиваться по второму пути, по крайней мере на начальной стадии развития. Т.е. фактически быть симбионтом человеческого интеллекта, как его усилитель. Речь конечно не о современно уровне, а о более продвинутом, например, как персональном ИИ в облаке, связанном с человеком беспроводно, нейроинтерфейсом. Приближенно, как показано в фильме «Анон», если видели.
Естественно, ИИ без проблем может освоить формальные методы как самих теорий, так и формальные методы их построения, и делать это лучше человека. Но насколько он сможет оперировать в реальности, не упуская ее новых проявлений, и моделировать ее в смыслом (концептуальном) пространстве, как это делает человек, прежде чем формализовать новые возникшие идеи?
---------------------------
я со многим не согласен, но текст интересный
я выделил наиболее значимые места с моей точки зрения
--------------------
коммент юзера "phenik" 15 октября 2019 в 18:34
https://habr.com/post/471324/#comment_20759022
из темы: Мечтают ли нейросети о Джоконде?
https://habr.com/ru/post/471324/
Присоединяюсь к аргументам Nehc, и добавлю свои. Это упрощенное понимание научного поиска и их результата - научных теорий. В еще большей степени это относится к искусству, как еще менее формализованной области.
Получилось несколько пространно...
Вероятно, в вас говорит инженерное образование, и работа вне стен какого-либо научно-исследовательского учреждения.
Это вовсе не какой-то там упрек, так и должно быть, если деятельность не связана поиском, а выдачей на гора готового продукта, в заданные сроки, заданного качества.
Общий смысл возражений в том, что вы все сводите к некой формализации, и требуете в ней определения научной деятельности и искусства, и наличия готовых метрик, для измерения результатов этой деятельности. Для достижения практического результата это правильная постановки вопроса. Но для понимания сути явления нет! Реальность всегда шире любых ее трактовок, тем более формализаций.
Конкретно по поиску, уже писал ранее, принципиальным моментом являются спонтанные проявления реальности, нельзя заранее точно спланировать направление поиска, кот. приведет к открытию новых фундаментальных фактов, кот., в свою очередь, лягут в основу новой фундаментальной теории. Приблизительно можно, точно нет!
Чем фронт поиска шире, тем вероятность открытия больше. Но и затраты любого рода увеличиваются, число исследователей, число работ, материальные затраты, и тд, причем экспоненциально. Именно эту ситуацию сейчас наблюдаем в фундаментальной физике последние лет 40-к, со времени создания последних успешных теорий КТП и СМ. Посмотрим, как было раньше, во времена создания КМ и СТО с ОТО. Масштаб был меньше, но ситуация абсолютно та же. Существовали классическая механика, и классическая ЭД, две основные фундаментальные теории, каждая со своим описанием. Первая требовала абсолютного евклидового пространства, вторая - эфир, противоречие, как и сейчас противоречие с требованиями кв-мех. описания (корпускулярно-волнового дуализма), и описания ОТО (непрерывный пр-временного континуум). Как был найден выход из противоречия тогда? Во многом случайно. Эксперимент Майкельсона-Морли планировался, как проверка наличия эфира, но неожиданным его результатом стало установление факта постоянства ск. света. Этот новый факт позволил создать Эйнштейну СТО, с учетом требования ее обратной совместимости с клас. механикой. Наблюдение за движением Меркурия выявило неожиданное расхождение с предсказаниями теории тяготения Ньютона смещения его перигелия. Этот факт, и некоторые предположения относительно природы массы, привели к созданию ОТО. Непредвиденные расхождения в объяснении фотоэффекта, и спектра излучения абсолютно черного тела, с классической ЭД привели к квантовым идеям, и с учетом еще нескольких расхождений и обратной совместимости с клас. механикой, к КМ.
Нет никаких указаний на то, что ситуация в перспективе как-то изменится, и что будет создана некая теория Всего, и никаких противоречий в описании не будет иметься, и тем более, что случайно не будут обнаружены новые факты, не объясняемые в рамках этой теории Всего. Ко всему этому добавляется существование более сложных систем, чем физические - биологические и социальные. Но даже в самой физике описание сложных систем не сводится (формально не редуцируется) к некоторым базовым составляющим. Это показывается формально, и относится к эмерджентным свойствам.
Как пример такой не сводимости макроскопического описания свойств магнитных материалов к микроскопическим, см. эту работу.
В общем случае такие доказательства используют различные виды неразрешимостей.
Редукция (в форме физикализма) сочетается с эмерджентностью, по крайней мере, в слабой форме.
Это можно проиллюстрировать на примере возникновения глайдеров в игре Жизнь, для кот. доказано, что она является полной по Тьюрингу.
С одной стороны возникновение глайдеров можно проследить пошагово от начала игры, при заданных начальных условиях, и в этом смысле, они редуцируются к правилам игры. Однако исходя только из правил игры предсказать их существование не возможно (они были открыты случайно), и в этом смысле, глайдеры, как целостные объекты, являются эмерджентными. Чтобы такую редукцию произвести можно расширить правила игры, фактически неявно постулировав существование глайдеров, но это уже не будет самый простой вариант правил игры.
Если это все спроецировать на нашу реальность, то формально поведение таракана можно свести (редуцировать) к законам физики (той самой гипотетической теории Всего), но придется просчитать это от момента самого БВ, с заданием конкретных начальных условий (возможно еще граничных). Это выполнимо, хотя бы в гипотетическом варианте, с помощью некоего квантовово-огого свуперпупер-компа?) Вряд ли.
В это можно только верить. Некоторые физики так и делают, чтобы сохранить детерминизм, т.е. редукционизм в крайней форме, верят в ММИ, чтобы избавится от вероятностной трактовки и коллапса ВФ в КМ:)
Таракан - это такой глайдер в нашей Вселенной, приближенно описывающийся биологическими закономерностями, кот. нельзя редуцировать к физике. И так практически все, даже в самой физике, за редким исключением достаточно простых систем.
По этой причине, поисковую задачу для реальности (познавательную деятельность) нельзя формализовать полностью, и это может иметь последствия для самой поисковой системы, будь то сам человек, или некоторый ИИ. Но это отдельная тема.
Можно также рассмотреть проблему формализации с точки зрения продуктов научного познания - теорий. В общем виде любая теория состоят из двух частей - формальной и неформальной. Не формальная часть содержит концептуальную модель области приложения теории, описываемую понятиями и связями (отношениями) между ними, и основанную на обобщении наблюдаемых и экспериментальных фактов, некоторых метафизических предположениях, и информации из предшествующих исследований в этой области.
Формальная часть содержит математическую модель (формализм), представляемую обычно в аксиоматической форме, частично или полностью перекрывающую понятия и связи концептуальной модели, и имеющая строгую интерпретацию (определения и правила вывода) в ней. Теория может содержать несколько эквивалентных формализмов, которые описывают известные факты из этой области и возможно предсказывают новые. Понятия концептуальной модели всегда имеют определенный физический смысл, являются наблюдаемыми величинами, некоторые понятия формальной нет - могут не иметь физического смысла, и быть не наблюдаемыми.
Рассмотрим эти утверждения на примере понятия массы, как одной из составных частей физ. теорий. В обыденном понимании масса это вес. Положили на весы предмет и гири - узнали его массу. Наука этим не ограничивается, в классической механике масса мера инертности тел. В теории гравитации Ньютона масса мера гравитационных свойств тел. Но Эйнштейн в СТО доказал, что масса эквивалентна энергии, кот. выражается знаменитой формулой E=m*c^2 (в этом виде энергия покоя). Все? Нет, Эйнштейн ввел принцип эквивалентности инертной и гравитационной массы в ОТО, и теперь движущаяся масса (точнее тензор эн-импульса) мера искривления метрики простр-временного континуума, и непосредственно связана с происхождением и эволюцией Вселенной. А еще есть хиггсовский механизм. Так, что такое масса?
Естественно, как обычно, нужно указать теоретический контекст использования этого понятия, чтобы снять неоднозначность. Но все эти интерпретации говорят о том, что масса нечто большее, чем любые из этих определений. Нет гарантий, что в будущем не откроются новые аспекты массы, и не возникнут ее новые определения, в той же теории кв. гравитации. Это наводит на мысль, что понятие массы не сводится даже к самому общему ее определению.
Это уже не однозначность определения, а некая трансцендентность исходно заложенная в него. Как она возникла? Сейчас на это можно ответить - из-за физиологии человека, точнее психофизиологии, подкрепляемой современными нейрофизиологическими исследованиями.
Масса это обобщенное вербальное обозначение (абстракция) чувственного восприятия нагрузки тел на мышечную систему организма, связанную с сопротивлением тел их перемещению, в том числе, собственного тела. Любое чувственное восприятие является субъективным состоянием, некоторым качеством, как сейчас модно говорить - квалия (но можно и без него обойтись). Насколько точно это субъективное состояние - ощущение массы связано с самой массой? Это описывает закон Вебера-Фехнера имеющий нелинейную (логарифмическую) форму зависимости величины ощущения от величины воздействия, в данном случае, величины тяжести тел. Кроме того он задает пороговый характер нарастания величины ощущений. Сами величины порогов могут изменятся в зависимости от многих условий психо-физиологического состояния субъекта. Однако, именно в таком представлении масса имеет эволюционно значимый смысл, полезный для выживания вида.
Таким образом, исходно масса, как термин естественного языка, является идеализацией субъективного состояния, весьма опосредованно связанной с реальной физической массой. Фактически являющегося обозначением (ссылкой) этого феномена, реальное содержание (наполнение) которого раскрывается в его моделировании на уровне абстрактного мышления, на основе наблюдений, целенаправленного опыта, и в более широком плане, всей практической деятельности общества.
Однако формальные абстрактные модели не являются замкнутыми относительно практики, поскольку практика всегда шире модельных представлений. Та самая способность реальности спонтанно проявлять себя в этой практике, о кот. писал выше.
Для аксиоматических систем не замкнутость относительно практики доказывается формально, в виде теорем о неполноте Гёделя. Это относится и к физическим теориям, связанным с объяснением феномена массы.
Дополнительно можно сказать, что формальные аппараты этих теорий подчинятся принципу соответствия, регулирующему наследование поколений теорий, надежно подтвержденных практикой применения. Но это не относится к концептуальным моделям, преемственная теория может содержать утверждения не сводящиеся к утверждениям наследуемой. Как пример, принцип суперпозиции в КМ не имеющий аналога в классической физике.
Эти рассуждения применимы к любым понятиям ЕЯ, связанным с описанием окружающего мира и самого человека, и составляют его концептуальную основу.
Таким как время, пространство, материальное тело, сила, и тд. в физике, или число, точка, прямая, и тд. в математике, жизнь, особь, вид, и тд в биологии, организм, орган, клетка, и тд. в физиологии, личность, мышление, поведение, и др. в психологических науках, общество, культура, индивид, и др. в социологических науках, материя, сознание, познание, и др. в философии.
Это и есть семантика языка, его смысловое наполнение.
Возникает вопрос, насколько это смысловое наполнение, фактически познавательную мощь ЕЯ, может освоить ИИ, не имея связи этих смыслов с субъективными состояниями, кот. у человека возникли эволюционно, совокупно в течении миллиарда лет? Нужно ли ИИ простраивать их самостоятельно, формируя свои собственные субъективные состояния, или как-то подключаться к уже созданному человеком смысловому пространству? Мое мнение, по многим причинам, ИИ должен развиваться по второму пути, по крайней мере на начальной стадии развития. Т.е. фактически быть симбионтом человеческого интеллекта, как его усилитель. Речь конечно не о современно уровне, а о более продвинутом, например, как персональном ИИ в облаке, связанном с человеком беспроводно, нейроинтерфейсом. Приближенно, как показано в фильме «Анон», если видели.
Естественно, ИИ без проблем может освоить формальные методы как самих теорий, так и формальные методы их построения, и делать это лучше человека. Но насколько он сможет оперировать в реальности, не упуская ее новых проявлений, и моделировать ее в смыслом (концептуальном) пространстве, как это делает человек, прежде чем формализовать новые возникшие идеи?
---------------------------