а так ли нужно простому человеку вот это вот всё

[akor168]

Появление последних достижений в сфере ИИ (чат ГПТ, ГПТ-4 и их возможности) начали порождать волну вопросов, а что дальше, и в частности появлению письма тысячи опаздунов, что надо де приостановить все новые разработки ИИ минимум на 6 месяцев, и к даже к совершенно алармисткому заявлению Юдковского что надо все срочно закрывать и сворачивать и

Comments

[strannik1]

Нужно.
Жизнь без Цивилизации, особенно в Северной Евразии с брюквой, избой, шкурой как одежда и вшами - не самое лучшее.

[akor168]

Какое дело простому человеку что там будет потом, когда его не будет да, и даже если был бы.

Он отдельно, а цивилизация отдельно. Так себя поставила цивилизация, а не он.

[strannik1]

Вы собираетесь помирать прям завтра?

[akor168]

В текущем порядке у простого человека нет никаких возможностей повлиять на происходящее. Последние годы им просто прямо стали указывать на это. Даже притворяться перестали что от него(меня) что-то зависит.

[awadd0n]

Цивилизация это буквально всё, что имеет человек. Любая вещь, которую он не может сделать сам, есть продукт цивилизации. От бритвенного станка через куртку с мембраной до мобильного телефона. Всё имущество любого европейца/азиата/американца

[akor168]

Минуточку, если меня не будет, то мне все равно, что там произошло или тем более произойдет со всем остальным. Включая вещи. Отдельному представителю вида должно быть совершенно наплевать и на сам вид, и на даже своих потомков. Просто те, кому не совсем наплевать, да оставляют больше жизнеспособного потомства. Но это всего лищь статистический феномен.
Если же ситуация очевидьным образом не зависит от тебя и не будет зависить и от твоих потомков, то тебе все равно что будет.

То есть как минимум, надо иметь лозунги уровня "Ваши дети будут жить при коммунизме", Америкнская мечта - дом семья и дети. А где-нибудь такое сейчас обещают. А нигде уже даже не обещают! Ни коммунизма, ни даже дома из Американской мечты, уж про семью молчу. Так и ради чего думать или волноваться о судьбе такой цивилизации? Как получится так и получится.

[igor_abramov]

"Порождённая нам искусственная жизнь будет жить при коммунизме."

В любом случае, переход от нынешней несовершенной биохимической формы существования перед человеком уже встаёт и его надо будет решать

[akor168]

Что-то мне даже затруднительно представить кого подобный лозунг может мотивировать.

А может вернуться хотя бы к лозунгу про "дети при коммунизме"? Но смотрите похоже мы все понимаем, что цивилизация в текущем варианте не хочет обещать даже этого, и более того, не хочет даже врать про это. То есть на простого человека откровенно положили с прибором(и лихорадочно ищут чьи бы проблемы представить вместо его проблем как самые важные) и это как минимум необходимо отрефлексировать.

[m61]

"Хрен вам, суки, а не барабан!" (с) анекдот про Котовского

[levgilman]

Угроза в захвате при жизни нынешнего поколения власти роботами (возможно, с участием людей). Либо - какой-то мелкой группой людей с помощью роботов. Последствия для простого человека - какие угодно, но не катастрофическими они могут быть в основном при дорогостоящей доброй воле захватчика. В любом другом случае - это не вероятнее, чем что монетка встанет на ребро.

[akor168]

В том то все и дело что у простого человека отняли все, даже теоретические возможности хоть на что-то повлиять. Потому что воля, что неволя - все равно.

Вот к примеру: что простой человек может сделать в текущем обсуждении про будущее ИИ. Его попробуют хотя бы спросить, чего он хочет? Абсолютно уверен, что нет. Будут ли хотя бы учитывать его интересы при рещении: Нет, не будут. Например, решение предлагаемое Юдковским их не учитывает от слова совсем.

[levgilman]

Разница всё же огромная между "ввели что-то, а простого человека не спросили" и "к власти пришло что-то непредсказуемое и даже нечеловеческое".

Да и чего спрашивать вообще? Учитывать, моделировать - да. А спрашивать - так каждый второй захочет кого-нибудь бить.

[akor168]

А спрашивать - так каждый второй захочет кого-нибудь бить.

Вот-вот. Спасибо за иллюстрацию - нефиг вас спрашивать. Ну и на хрена нам такая цивилизация когда нам перестали даже обещать что будут интересоваться нашим мнением. И не надо строить иллюзий. Если не интресуются мнением простых людей, то это очень быстро скатывается - не интересуются вообще ничьим мнением.

[alexanderr]

скорее, тут 50/50

50% что AI всех убьет
50% что AI сделает всех бессмертными

замечу, что эти два варианта не противоречат друг другу
и могут реализоваться одновременно

[akor168]

Проблема то судя по всему не в АИ, который еше и не факт что будет. Потому как даже максимально крутая языковая модель сильным АИ не является и не может являться. Потому что у нее нет памяти и модуля целеполагания, и грубо говоря если не делать ей этих модулей то Юдковский может спать спокойно.

Проблема именно в отношении современной цивилизации к маленькому человеку, к его желаниям и проблемам.

[alexanderr]

согласен, что LM просто достаточно ловко тянет вереницу слов из клубка. и это безусловно большой прогресс и производит впечатление. и да, для настоящего AGI нужно взаимодействовать с внешним миром и учиться на ошибках, и вот это момент, который пугает. чем больше у нее будет возможностей взаимодействовать, тем труднее предсказать, как это взаимодействие пойдет.

[alexanderr]

не исключено, что концепция "маленького человека" изменится, если advanced AGI будет широко распространен. уже интернет сильно поменял эту концепцию. любой может сделать интересное видео или пост со своим личным мнением и затронуть очень большую аудиторию. а комбинируя это с продвинутым AGI мы можем прийти к ситуации, когда "маленький человек" сможет при желании делать очень большие проекты. без средств, без помощи со стороны

Musk про это уже написал в твиттере, что деньги будут не нужны или очень сильно поменяют смысл. производительность каждого будет ограничена только его личным воображением