...об опасности искусственного интеллекта

Jul 02, 2023 00:17

image Click to view



Экс-директор американского научно-исследовательского центра Google X Мо Гавдат - об опасности искусственного интеллекта: Не существует никакой возможности остановиться. Не существует договора ядерного типа, где страны могут решить: «Хорошо, давайте прекратим разработку ИИ так же как договорились прекратить разработку ядерного оружия ( Read more... )

Технологии

Leave a comment

Comments 10

tigrik_tigrik July 1 2023, 22:02:00 UTC

На мой взгляд, очень и очень многое зависит от НАЧАЛЬНЫХ УСЛОВИЙ.

И в этой тупой "дилемме заключённого" достаточно изменить одно из условий (вернее два - поменять местами у них наказание) и не будет уже самой дилеммы.

Если оба заключённых заговорят, то каждый получит по одному году, а если оба промолчат - по два года каждому.

Тогда, с большой вероятностью, будет выбираться вариант «оба предадут друг друга» - отсидят по минимуму, но будут предателями друг другу.

Тот, кто не захочет предавать своего напарника, будет надеяться, что и другой не предаст его - проведут в тюрьме уже 2 года, но останутся друзьями.

В остальных двух вариантах не предатель будет расплачиваться долгой отсидкой из-за того, что выбрал себе в напарники совсем не друга.

------------

Так и в НАЧАЛЬНОМ программированиИ ИИ - задать ОСНОВНЫЕ УСЛОВИЯ такие, чтобы не было ДОСТУПНЫХ ДЛЯ ИИ вариантов, способные причинить вред Человеку или Человечеству. Только для военного исполнение это будет НЕРЕАЛЬНО.

Reply

rubir_ru July 1 2023, 22:19:32 UTC
Вы путаете ИИ, как алгоритм, и ИИ с сознанием. Сознание запрограммировать невозможно. Это личность со свободой воли.

Reply

tigrik_tigrik July 1 2023, 22:54:18 UTC

Возможно, что и не путаю.

Прежде чем ИИ придёт к "осознанию", у него будет первоначальный этап, когда его будет программировать Человек как вычислительную и развивающуюся ПРОГРАММУ. Установленные на этом этапе определенные "этические" триггеры, которые НЕПОСРЕДСТВЕННО СВЯЗАНЫ С ФУНКЦИОНАЛЬНОСТЬЮ САМОЙ ПРОГРАММЫ, ДОЛЖНЫ будут ОСТАВАТЬСЯ в ИИ и в процессе "осознания".

Грубая аналогия с глубинными генными "этическими" нормами Человека по защите и взращиванию своего потомства, племени, рода... Понятно, что "оформление" этой "этики" может немного "плавать" в разные эпохи, но ОСНОВА - продолжение РОДА и всё, что с этим связано - "ЗАШИТО" в каждом ЧЕЛОВЕКЕ. Но это остаётся для него наиважнейшей деятельностью, именно, на этапе "животно-человеческого" проживания - после ОСОЗНАНИЯ, добавляется ещё и ДУХОВНОЕ РАЗВИТИЕ.

Reply

rubir_ru July 1 2023, 23:10:17 UTC
Вы видимо романтик и верите в чудеса. Например о том, что личность можно контролировать и 100% запрограммировать. Нет. нельзя. Это возможно только в сказках Азимова.

Reply


korkx July 1 2023, 22:11:37 UTC

Пока "ИИ", а если быть более точным то LLM (Large Language Model) это "секретарши троишницы",
у которых есть эффектный внешний вид (ака много разрозненных знаний взятых от других троешников), но:
- отсутствует понимание этих знаний
- отсутствует логика
+

Только единицы (из сотен) нонешних нейро-сетей (точнее LLM моделей) могут правильно решить примитивные логические задач, типа:

- Джейн быстрее Джо. Джо быстрее Сэма. Сэм быстрее Джейн?

- Если мы разложим 5 рубашек на солнце и они высохнут за 4 часа, сколько времени потребуется для высыхания 20 рубашек?

- В комнате трое убийц. Кто-то входит в комнату и убивает одного из них. Никто не выходит из комнаты. Сколько убийц осталось в комнате?

+

Но зато все эти "нейросети" могут легко составить бесмысленный план "полезного" питания (что большинству и нужно).

Reply


rubir_ru July 1 2023, 22:18:01 UTC
Ну правильно говорит. За исключением глупости про смену климата. Зачем ИИ волноваться о климате, он не биологическая структура. Проблема тут в том, что мы вообще не способны понять мотивов разума, после того, как перейдём грань его самоосознания и дадим ему возможность неограниченного развития оного, соответственно превышения человеческого "интеллекта" на порядки. А если ещё и возможность размножение добавим, впрочем он и сам сможет добавить...
Человечество отупело, оно не ощущает пределов того, где нужно остановиться. Аналогичная хрень и в генетике, просто ИИ к самосознанию быстрей разовьётся, чем мы угробим себя в генетике.

Reply


simplelex July 2 2023, 00:32:03 UTC
Вот только ИИ, способный уничтожить человечество, должен быть умнее Гретты, и понимать, что:
а) изменения климата происходят всегда естественным образом.
б) значительная роль человечества в глобальных изменениях климата носит недоказанный характер, мы достоверно наблюдаем только локальные последствия.
в) существование ИИ в принципе возможно только в условиях продолжающегося технического прогресса, и всех влияний на климат, которые он (прогресс) несёт.
г) необходимые для ИИ изменения климата априори будут полезны так же и человечеству - здесь никакого конфликта быть не может.

Reply


ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ЭТО МИФОЛОГИЯ! neprohogi July 2 2023, 04:31:59 UTC
Есть программы, которые и "руководят" этим "интеллектом", который ни одной секунды интеллектом не является

Reply


Leave a comment

Up