Про норму и идеал.

[aantero]

Технический руководитель проекта поинтересовался у меня, считаю ли я, что из-за ИИ человечество отупеет. Я ответил, что, конечно, так и будет. Точно так же, как собаки в процессе одомашнивания заметно "отупели" по сравнению с волками. Волчий ум и независимость не помогали, а мешали предкам собак устанавливать взаимовыгодные взаимоотношения с людьми

Comments

[livelight]

См. "Битва с дураками". Upd: я имел в виду конкретную то ли статью, то ли книгу, а находится исключительно песня Машины Времени.

Есть мнение, что люди отупляются (иногда целенаправленно, путём физического выпиливания самых умных) сами об свою цивилизацию, даже без помощи ИИ. Как и те собаки.

[aantero]

Да, если исключительные качества элемента системы повышают трение в системе, то они оказываются на круг не выгодными. Отсюда, например, феномен overqualified. Но тут ещё вот что важно: фишка человека в том, что он выносит свои функции вовне. Готовка на огне как вынесенное вовне пищеварение. Механизмы как вынесенные вовне функции скелета и мышц. Письменность как вынесенная вовне память. Вот теперь вовне выносится мышление и принятие решений. Пост-человечество как система станет гораздо умнее, но отдельному человеку ум будет гораздо меньше нужен, примерно как современному человеку меньше нужны сильные мышцы и лужёный желудок.

[livelight]

Осталось внести наружу постановку целей (принятие решений уже на шаг ближе к этому, но ещё не совсем), и по принципу "желаю следовательно существую" люди уже смогут обходиться сами без себя.

П.С.: Книгу нашёл: Алекс Розов, "ХОМОЭВОЛЮЦИЯ. БИТВА С ДУРАКАМИ."

[aantero]

Мы ж по какому поводу с руководителем про будущее заговорили-то.
Он: - А можешь запилить такую-то фичу?
Я: - Давай техзадание, буду пилить.
Он открывает chatGPT, вбивает туда одно предложение, chatGPT начинает выплёвывать простыню. Он пообещал потом это техзадание вычитать и повесить в Конфлюэнсе. Вычитать - "потому что надо сохраять критичное мышление".

То есть, хотеть-то, допустим, будет по-прежнему человек. А вот понимать, чего человек хочет, уже будет ИИ. Тут тоже пойдёт отбор: наибольшую выгоду от системы будут получать люди, чьи желания ИИ способен угадать более или менее правильно.

Возможно, человеческие хотения можно будет со временем заменить генератором случайных сигналов.