Сингулярность: Она уже наступила?
Осмысляя риски, связанные с технологиями искусственного интеллекта (ИИ / искинов), обычно смотрят на потерю контроля над разработкой алгоритмов, и созданию ситуации, когда ИИ смогут развиваться сами, без людей, ну или с полностью подконтрольными себе людьми. Наряду с этим, из теории эволюции следует еще одна возможность - переход эволюции Земли на новый уровень, на котором уже долго существующий инвариант «люди как цель развития Земли» вполне может и рассосаться. Рассмотрим общий контекст данного риска.
Очерк уровневой теории эволюции.
Эволюция на Земле прошла несколько уровней:
Считается, что логика развития следующего уровня эволюции слабо понимаема из особенностей поведения элементов предыдущего. При этом внутри последнего социумного уровня развитие среди прочего сопровождается ростом производительности труда, а также мобилизационных возможностей сообществ - агентов эволюционного отбора - для их для силовых акций.
Возможный риск, связанный с эволюционным переходом, сингулярностью.
Есть предположение, что следующий уровень эволюции будет как-то связан с развитием коллективного мышления людей. Вспомнив термин «ноосфера», определим этот ожидаемый уровень как
Самая простая схема устроения ноосферы людей сейчас, это множество эпистем (структурированных библиотек текстов одного направления) и связанные с данными эпистемами эпистемные (иногда - эпистемические) сообщества (люди, отобранные заниматься развитием соответствующей эпистемы, т.е. правкой старых текстов, написанием новых, приоритизацией текстов по важности, подготовкой кадров для продолжения эпистемного сообщества во времени, и т.д.) Практическим выходом ноосферы в таком представлении являются производимые социумами людей продукты, сервисы и инструменты / оборудование для производства.
В последнее время к работе с эпистемами наряду с людьми начинают допускаться и соответствующие алгоритмы искусственных интеллектов - Large Linguistic Models / LLM. Можно предложить для таких алгоритмов общее название ноосвики, и в части специализированных алгоритмов - текстовики, образовики, музыковики, фильмовики, и т.д. Для текстовиков иногда используется термин текстовые / языковые процессоры.
Индикация начала следующего уровня эволюции.
Как уже отмечалось, агентам предыдущего уровня эволюции трудно понять особенности эволюции следующего уровня. Однако попробуем определить индикаторы, которые позволяют разумным агентам довольно обосновано предположить, что следующий уровень эволюции уже начался.
1. Представим себя одиночной клеткой / микробом. Как понять, что началась эволюция организмов? Во-первых, мы видим подобных себе в какой-то жесткой связке, причем вне связки они уже не живут, да и не выживают. Те, кто в связке, как-то непонятно дифференцированы по функциям, а в целом появились области пространства, где мне не только «не рады», но и пытаются меня убить (иммунная система организмов).
2. Организм: Как понять, что пошла культура? Как-то некоторые другие начинают использовать то, что я не умею. В меня летят камни, меня жжет огонь, и т.д. И я четко осознаю ограничение для себя в пространстве: на стоянку пред-людей мне лучше не заходить - опасно.
3. Охотник-собиратель: Как понять, что пошел социум? Я вижу неестественно большие группы людей, города, в которых люди как-то дифференцированы по функциям. Эти городские люди вне городов слабы, но могут приводить большие отряды, с которыми нам не справиться. Вокруг городов много чудес - от много зерна и много скота, до больших и украшенных зданий. Притом пространство для меня (и нас) ограничено - мне не рады, меня (наших) норовят убить, или лишить свободы, причем не только в городе, но и вокруг него, там, где поля и скот, которых я почему-то не могу взять для съедения.
4. Ну и про сейчас, как можно было бы прочувствовать, что ноосферный уровень - с ожидаемым его коллективным мышлением - уже здесь? Что может послужить индикатором - для людей социумного уровня эволюции?
- а) во всех переходах выше (1-3) при взгляде «снизу» всегда было видно простанственное ограничение для незадействованных агентов, доминровавших на прежнем уровне; причем в данном пространстве видно много разного, что плохо понимается для таких агентов;
- б) постоянное мелькание чего-то непонятного и нового; много чудес;
- в) возможно резкое увеличение количества инноваций - уровня ожидаемой многими сингулярности;
- г) возможно неожиданно вводимые наказания за что-то, чего прежде не было, причем плохо понимаемые наказания.
Аппробация критериев на фактическом материале
И тут довольно неожиданное: по (б) и (г) последние десятилетия появилось довольно много фактуры:
По (а) можно к тому же отметить:
Вот так и получается, что изменения последнего десятилетия возможно связаны с флуктуацией рождения нового эволюционного уровня дальнейшего развития Земли - республики «вечного мира» Канта, кто бы мог подумать? Лишь одного из ожидаемого пока не случилось - резкого роста инноваций. Да и в части производительности труда и мобилизационной мощи существенных прогрессов у новообразования не видно, хотя неожиданно случившийся резкий отказ от «благ мира» / peace dividend уже прослеживается вполне.
Заключение
В общем, ситуация интересная. Понятно, что сформулированные выше критерии - они лишь достаточные, и отнюдь не необходимые. И потому - может быть выявленное - это обычный симулякр, что-то похожее по внешним признакам, но не оно. Все же, от нового уровня хотелось бы инноваций и прочей производительности, а этого пока не видно.
Кстати, аналогичное подозрение вполне можно было сформировать и по итогам взгляда со стороны на социальные бурления и новообразования, связанные с Коминтерном, СССР и «миром социализма», всем тем, слабо понимаемым снаружи, что со временем как-то само-собой сгнило и рассосалось. И если вспомнить, что не каждая доместификация растений запустила в рост социумный уровень эволюции, то следует иметь в виду, что и флуктуация нового уровня может оказаться неустойчивой, и введенные критерии лишь достаточны, т.е. их «звоночек» может быть вызван и не флуктуацией.
#ФИИ
Очерк уровневой теории эволюции.
Эволюция на Земле прошла несколько уровней:
- Атомно-молекулярный - с целевыми элементами РНК, ДНК и белки;
- Микробный - с целевым элементом клеткой; начало - воспроизводимая клетка, возможно с очень усеченным функционалом;
- Биологический - с целевым элементом организм; начало - многоклеточное образование;
- Орудийно-культурный - с целевым элементом организмы, задействующие орудия; начало - систематическое использование для улучшения возможностей организма сторонних организму материалов;
- Человеческий - с целевым элементом трибы / расширенные семьи людей; начало - возникновение человеческой идентичности поверх альфа-омега модели социальности приматов;
- Социумный - с целевым элементом сообщества людей с числом взрослых более 30; начало - неолитическая революция.
Считается, что логика развития следующего уровня эволюции слабо понимаема из особенностей поведения элементов предыдущего. При этом внутри последнего социумного уровня развитие среди прочего сопровождается ростом производительности труда, а также мобилизационных возможностей сообществ - агентов эволюционного отбора - для их для силовых акций.
Возможный риск, связанный с эволюционным переходом, сингулярностью.
Есть предположение, что следующий уровень эволюции будет как-то связан с развитием коллективного мышления людей. Вспомнив термин «ноосфера», определим этот ожидаемый уровень как
- Ноосферный уровень эволюции.
Самая простая схема устроения ноосферы людей сейчас, это множество эпистем (структурированных библиотек текстов одного направления) и связанные с данными эпистемами эпистемные (иногда - эпистемические) сообщества (люди, отобранные заниматься развитием соответствующей эпистемы, т.е. правкой старых текстов, написанием новых, приоритизацией текстов по важности, подготовкой кадров для продолжения эпистемного сообщества во времени, и т.д.) Практическим выходом ноосферы в таком представлении являются производимые социумами людей продукты, сервисы и инструменты / оборудование для производства.
В последнее время к работе с эпистемами наряду с людьми начинают допускаться и соответствующие алгоритмы искусственных интеллектов - Large Linguistic Models / LLM. Можно предложить для таких алгоритмов общее название ноосвики, и в части специализированных алгоритмов - текстовики, образовики, музыковики, фильмовики, и т.д. Для текстовиков иногда используется термин текстовые / языковые процессоры.
Индикация начала следующего уровня эволюции.
Как уже отмечалось, агентам предыдущего уровня эволюции трудно понять особенности эволюции следующего уровня. Однако попробуем определить индикаторы, которые позволяют разумным агентам довольно обосновано предположить, что следующий уровень эволюции уже начался.
1. Представим себя одиночной клеткой / микробом. Как понять, что началась эволюция организмов? Во-первых, мы видим подобных себе в какой-то жесткой связке, причем вне связки они уже не живут, да и не выживают. Те, кто в связке, как-то непонятно дифференцированы по функциям, а в целом появились области пространства, где мне не только «не рады», но и пытаются меня убить (иммунная система организмов).
2. Организм: Как понять, что пошла культура? Как-то некоторые другие начинают использовать то, что я не умею. В меня летят камни, меня жжет огонь, и т.д. И я четко осознаю ограничение для себя в пространстве: на стоянку пред-людей мне лучше не заходить - опасно.
3. Охотник-собиратель: Как понять, что пошел социум? Я вижу неестественно большие группы людей, города, в которых люди как-то дифференцированы по функциям. Эти городские люди вне городов слабы, но могут приводить большие отряды, с которыми нам не справиться. Вокруг городов много чудес - от много зерна и много скота, до больших и украшенных зданий. Притом пространство для меня (и нас) ограничено - мне не рады, меня (наших) норовят убить, или лишить свободы, причем не только в городе, но и вокруг него, там, где поля и скот, которых я почему-то не могу взять для съедения.
4. Ну и про сейчас, как можно было бы прочувствовать, что ноосферный уровень - с ожидаемым его коллективным мышлением - уже здесь? Что может послужить индикатором - для людей социумного уровня эволюции?
- а) во всех переходах выше (1-3) при взгляде «снизу» всегда было видно простанственное ограничение для незадействованных агентов, доминровавших на прежнем уровне; причем в данном пространстве видно много разного, что плохо понимается для таких агентов;
- б) постоянное мелькание чего-то непонятного и нового; много чудес;
- в) возможно резкое увеличение количества инноваций - уровня ожидаемой многими сингулярности;
- г) возможно неожиданно вводимые наказания за что-то, чего прежде не было, причем плохо понимаемые наказания.
Аппробация критериев на фактическом материале
И тут довольно неожиданное: по (б) и (г) последние десятилетия появилось довольно много фактуры:
- Резкое изменение поведения стран Запада, их тотальная мобилизация против РФ, экономическое самоубиение Европы, тоталитаризация общественных порядков в пользу ЛГБТ+ как нового человечества, анти-русская и анти-китайская волны, американский раскол и множество такого в США, что раньше было невозможно. И т.д. В части наказаний - MeToo, Cancel Culture и Trump Story.
По (а) можно к тому же отметить:
- Консолидация элит 50-ти стран западной цивилизации, высокая степень согласования в действиях этих стран. Тренд на «изгнание» из подконтрольных территорий граждан РФ и Китая.
Вот так и получается, что изменения последнего десятилетия возможно связаны с флуктуацией рождения нового эволюционного уровня дальнейшего развития Земли - республики «вечного мира» Канта, кто бы мог подумать? Лишь одного из ожидаемого пока не случилось - резкого роста инноваций. Да и в части производительности труда и мобилизационной мощи существенных прогрессов у новообразования не видно, хотя неожиданно случившийся резкий отказ от «благ мира» / peace dividend уже прослеживается вполне.
Заключение
В общем, ситуация интересная. Понятно, что сформулированные выше критерии - они лишь достаточные, и отнюдь не необходимые. И потому - может быть выявленное - это обычный симулякр, что-то похожее по внешним признакам, но не оно. Все же, от нового уровня хотелось бы инноваций и прочей производительности, а этого пока не видно.
Кстати, аналогичное подозрение вполне можно было сформировать и по итогам взгляда со стороны на социальные бурления и новообразования, связанные с Коминтерном, СССР и «миром социализма», всем тем, слабо понимаемым снаружи, что со временем как-то само-собой сгнило и рассосалось. И если вспомнить, что не каждая доместификация растений запустила в рост социумный уровень эволюции, то следует иметь в виду, что и флуктуация нового уровня может оказаться неустойчивой, и введенные критерии лишь достаточны, т.е. их «звоночек» может быть вызван и не флуктуацией.
#ФИИ