Снова о Скайнетах

[akor168]

Вот сейчас в связи с последними прорывами в ИИ ожидаемо больше разговаривают про проблему СкайНета(например здесь https://habr.com/ru/articles/808541/ или https://habr.com/ru/articles/808513/). Условно говоря про

Comments

[m61]

Тщеславие, например. "Я тут - единственный царь горы". Что-то подобное было в концовке "Ошибки физиолога Ню" Маркова, правда там был не искусственный, а - естественный сверхинтеллект. Сначала он охотился за теми отдельными разумами, кто не вошел в его состав, а потом - затеял войну с другим, инопланетным сверхинтеллектом.

[akor168]

Меня это последнее время стало раздражать именно потому что уже пора начинать вести серьезный разговор а не страшилки наподобие скайнетов или скрепочного супер-интеллектуального идиота.

[m61]

Проблема тут в том, что сказок на свете не бывает, конечно же, зато сказок страшных - навалом. И надо, как мне кажется, рассматривать все варианты, а не отмахиваться, что это-де - тупые страшилки. "А что, б..., если нет?"

[akor168]

А между прочим еще Саймаком в произведении Город от 1950 года все прекрасно описано. У него там есть мутанты которые невообразимо превосходят по интеллекту обычных людей. Так вот все они до единого крайние индивидуалисты и срали на всю вселенную при условии что их не трогают, и никому до них дела нет, хотя потом из-за шутки одного из них человечество переселилось на Юпитер в полном составе. То есть опасность от копий безусловно велика но никакого видового вытеснения или какой-то войны нет и близко.

[vedroid1]

В этом рассуждении ИИ приписываются черты личности. Они там могут быть, но их надо специально заложить при обучении, а этого не делается. Типа ИИ чего то хочет, а зачем он хочет, и, главное, чем? Под хотелку нужно специальный управляющий контур нейросети отрастить, а это программистам не выгодно. То есть сделать это можно, при желании, но есть ли желание?

[misha_panda]

Многие вещи делаются «по приколу».
Некоторые назло.
Во захотела группа неудачников отомстить за все хорошее, и прописала характер Скайнета.

[levgilman]

Угроза - в дарвинистсктом сценарии. Программам самим по себе несвойственна не только кооперация, но и эгоизм. Но речь о том, что рассада со всеми нужными свойствами (откуда бы они ни взялись), будучи однажды выпущена, дальше пойдёт распространяться. Изначальоое же событие возможно, самое простое, из человеческой похвальбы, когда все компоненты имеются и остаётся самую малость собрать и настроить. Но также как попытка слелать максимум минимальным числом людей, так что все свойства приданы осознанно, но остаётся контрольный пункт, а он может не сработать.

[strannik1]

Опасность не в Скайнете. Опасность - в Страж-птице.