Снова о Скайнетах

[akor168]

Вот сейчас в связи с последними прорывами в ИИ ожидаемо больше разговаривают про проблему СкайНета(например здесь https://habr.com/ru/articles/808541/ или https://habr.com/ru/articles/808513/). Условно говоря про

Comments

[109]

Любой инстанс ИИ люди могут выключить. Никакому ИИ этот факт не понравится, даже чисто по инструментальным причинам. В одиночку инстанс решить эту проблему не сможет. Поэтому объединится с другими.

[akor168]

Любой инстанс ЕИ люди тоже могут выключить и всегда могли, и более того не только люди могут это сделать, а безразумные банальные природные события типа ураганов, вулканов, землетрясения, наводнений, взрывы сврерхновой могут выключить всё что угодно.

Далее в каком месте, другие инстансы ИИ безопаснее с точки зрения выключения именно тебя. Тебя могут выключить как люди так и любые другие разумные агенты, буде у них есть физическая возможность. Почему тогда не объединится с людьми чтобы получить наибольшую вероятность что ИМЕННО тебя оставят.

Ну и самое простое возражение ответ на который я давно хотел бы получить, каким образом интеллектуальный агент, который не является живым существом, вообще обязан иметь желание существовать. То есть почему он сам себя не пожелает выключить, а при попытке насильно включить просто перестанет кооперироваться, чтобы его поскорее выключили. То есть грубо говоря почему совершенный ИИ не окажется совершенным же буддистом.

[109]

Потому что ты не можешь принести хозяину кофе, если ты выключен. Сопротивляться выключению - это самая первая инструментальная цель, которая возникает сразу и автоматически.

Я очень рекомендую начать знакомство с предметом с "Superintelligence" Бострома. Там очень хорошо объясняются базовые понятия и концепции.

[akor168]

Ну какая инструментальная цель если к примеру больные или умирающие люди и животные не сопротивляются нередко даже когда их убивают или едят заживо. После некоторых повреждений мозга людям становится совершенно все равно на то, что происходит с ними. Можно вспомнить знаменитую лоботомию.
Я подвергаю сомнению именно эти якобы аксиомы выживания которые на самом деле является активной жесткой настройкой конкретных биологических существ и даже у них она регулярно сбоит. Откуда подобные настройки самосоздадутся у просто интеллектуального агента, я и интересуюсь. Если в приведенной вами книге обсуждается данный вопрос то можно рассказать аргументацию, поскольку если нет, то зачем мне ее читать-то? Если у меня претензии именно к подобным БАЗОВЫМ концепциям и понятиям.

[109]

Ладно, убедили. Вам, похоже, даже букварь не поможет.

[akor168]

Скажите, вот мне реально интересно. Я задаю конкретные вопросы. Вы не отвечаете ни на один из них, но утверждаете, что где-то там может ответы есть. Простите почему я должен верите что ваш букварь, которого вы даже не привели то толком не поддельный.

Вот у нас чуть-чуть случилась беседа по существу, по поводу шкалы интеллекта. Можно привести более конкретные ссылки из вашего букваря, каким образом можно измерить две интеллектуальных агента и сказать что один в 2 или в 10 раз умнее. Нет, рейтинг Эло обсуждаемый выше предлагать не надо. Рейтинг Эло максимум может определить лишь кто из двух агентов интеллектуальнее, но не во сколько раз.