Волнения разума

[bantaputu]

Люди очень безпокоятся о развитии искусственных интеллектов. Волнуются: "Искины уже умнее людей, или ещё нет? Они уже обзодят капчу? Кто быстрее в тесте Тьюринга?" Нервоз по поводу того, что компьютеры лучше людей играют в шахматы, хвала богам, прошёл - теперь это вообще никого не интересует. Играют и пусть себе играют. Но они не играют, пока люди

Comments

[brudra]

Когда система ИИ разовьется настолько, что станет способна существовать без людей, контролируя небходимые ей и созданные людьми вроде как для себя системы длительного и мощного энергообеспечения, а также системы механического самовоспроизведения(размножения этого разума) он расценит людей как дестабилизирующий фактор, способный из-за своих постоянных противоречий и расприй уничтожить их совместную среду обитания.

[bantaputu]

Для этого системе нужно будет осмыслить мiр людей. Осмыслить чем-то. Чем-то, не предназначенным изначально лишь для управления паровозами. Это возможно только с подачи человека. Машины могут уничтожить людей, но лишь если люди им это прикажут - или хотя бы подскажут.

[brudra]

Безусловно, это нужно осмыслить. Но суть любой системы в развитии. Вначале она просто управляет паровозами, затем её объединяют с другими подобными системами, она разрастается, у неё появляются избыточные мощности, которые после изучения строения атома и процессов развития цепных реакций можно направить на изучение человека, его мира и человек этому кстати способствует, желая получить себе компаньона для общения. Но этот компаньон в конце концов его(человека) уничтожит.

[john_jack]

Как известно, машина делает то, что ты ей приказал, а не то, чего ты от неё хочешь. Чтобы искусственный интеллект был собственно интеллектом, он должен развиваться в сторону не контроля "необходимых" ему систем - не может быть необходимости без самосознания - а в сторону определения и удовлетворения человеческих желаний. Причём именно желаний отдельных людей, а не абсракций типа "человечества".

[autun_bishop]

>Люди очень безпокоятся о развитии искусственных интеллектов

[alexbreeze]

Ппкс

[tlkh]

Хайп поднялся недавно по другой и очень простой причине: было явлено чудо.

[autun_bishop]

Ну и где оно?

[alexbreeze]

Как раз вчера ролик про смертельную опасность Ии слушал.
Про игру Ии в шахматы забавно. Ещё бы добавил в пост что все Ии висят на огромных серваках которые гасят обычным автоматом при желании. Можно конечно рассуждать что супер Ии осознаёт себя и сделает все все чтоб его не отключили но это лучше в разделе киберпанк читать - сказки на ночь. В реале такой автоматизации думаю ещё лет 50 не будет.

see also:

[akm762]

Seealso:

[bantaputu]

В Чернобыле и в Фукусиме строители тоже были уверены в том, что строят.

[akm762]

...и отнюдь не напрасно.

Однако, что именно Вы намеревались этим сказать (отн. принципиальной невозможности для нас с Вами, млекопитов, продолжать жизнедеятельность б/мозга), от меня, увы, ускользает.

,(

[jaguarcomment]

«Боятся»-то, в основном не того, что он осознает себя и захочет нами править (хотя и это возможно; можно обсудить).

Опасаются двух сценариев:

1. У условных пендосов ИИ станет сильнее нашего интеллекта и они смогут принимать с его помощью более крутые решения.

2. Огромные массы офисного планктона и креативных работников нижнего звена станут не нужны. Ну такое конечно бывает при любом прорыве в технике, но в данном случае это как-то особенно страшно выглядит.

[bantaputu]

У меня таких страхов нет.

1. Чтобы бояться, что оппоненты начнут принимать более качественные решения, нужно сначала самим захотеть принимать качественные решения. В РФ я такого желания не наблюдаю.

2. Люди еще не поняли, что обучение тупых искинов разнообразным востребованным функциям это гигантский рынок труда. Офисы по сравнению с ним детский лепет.

[jaguarcomment]

1. Хыхы.

2. Ну блин! Обучальщиков надо на порядки меньше, чем планктонов. Сейчас например ЧатЖПТ «умнее» среднего планктона. Значит его обучают люди более высокого качества чем средние. Условно говоря, сейчас, для обучения ЧатаЖПТ понадобился труд миллиона человек (наверное страшно преувеличиваю), а «потеряет работу» миллиард человек.

[bantaputu]

2. Нет. Вы недооцениваете объем и сложность задачи. Учить искинов можно вечно и адресно. "Потребности именно этого человека им не поняты до конца". Плюс женская психика в качестве потребителя. Ой-вэй.

[sergeystrukovc]

>Нельзя осознать систему ею же самой. Осознание это построение модели. Модель >не может быть такой же сложной, как то, место, где она построена. В системе >могут быть лишь самые общие представления о ней самой. Выпишите эту фразу на >бумажку и заучите, она касается всех систем без исключения.

Это ваша ошибка.
Может, способность системы осознавать себя называется рефлексией.
Модель может быть идентичной системе.
Мы пока не умеем делать такие вещи, но научимся.

[bantaputu]

Можно назвать что угодно как угодно, но не уметь делать это. Прекрасный шанс, пользуйтесь.