Click to view
Экс-директор американского научно-исследовательского центра Google X Мо Гавдат - об опасности искусственного интеллекта: Не существует никакой возможности остановиться. Не существует договора ядерного типа, где страны могут решить: «Хорошо, давайте прекратим разработку ИИ так же как договорились прекратить разработку ядерного оружия
(
Read more... )
Comments 10
На мой взгляд, очень и очень многое зависит от НАЧАЛЬНЫХ УСЛОВИЙ.
И в этой тупой "дилемме заключённого" достаточно изменить одно из условий (вернее два - поменять местами у них наказание) и не будет уже самой дилеммы.
Если оба заключённых заговорят, то каждый получит по одному году, а если оба промолчат - по два года каждому.
Тогда, с большой вероятностью, будет выбираться вариант «оба предадут друг друга» - отсидят по минимуму, но будут предателями друг другу.
Тот, кто не захочет предавать своего напарника, будет надеяться, что и другой не предаст его - проведут в тюрьме уже 2 года, но останутся друзьями.
В остальных двух вариантах не предатель будет расплачиваться долгой отсидкой из-за того, что выбрал себе в напарники совсем не друга.
------------
Так и в НАЧАЛЬНОМ программированиИ ИИ - задать ОСНОВНЫЕ УСЛОВИЯ такие, чтобы не было ДОСТУПНЫХ ДЛЯ ИИ вариантов, способные причинить вред Человеку или Человечеству. Только для военного исполнение это будет НЕРЕАЛЬНО.
Reply
Reply
Возможно, что и не путаю.
Прежде чем ИИ придёт к "осознанию", у него будет первоначальный этап, когда его будет программировать Человек как вычислительную и развивающуюся ПРОГРАММУ. Установленные на этом этапе определенные "этические" триггеры, которые НЕПОСРЕДСТВЕННО СВЯЗАНЫ С ФУНКЦИОНАЛЬНОСТЬЮ САМОЙ ПРОГРАММЫ, ДОЛЖНЫ будут ОСТАВАТЬСЯ в ИИ и в процессе "осознания".
Грубая аналогия с глубинными генными "этическими" нормами Человека по защите и взращиванию своего потомства, племени, рода... Понятно, что "оформление" этой "этики" может немного "плавать" в разные эпохи, но ОСНОВА - продолжение РОДА и всё, что с этим связано - "ЗАШИТО" в каждом ЧЕЛОВЕКЕ. Но это остаётся для него наиважнейшей деятельностью, именно, на этапе "животно-человеческого" проживания - после ОСОЗНАНИЯ, добавляется ещё и ДУХОВНОЕ РАЗВИТИЕ.
Reply
Reply
Пока "ИИ", а если быть более точным то LLM (Large Language Model) это "секретарши троишницы",
у которых есть эффектный внешний вид (ака много разрозненных знаний взятых от других троешников), но:
- отсутствует понимание этих знаний
- отсутствует логика
+
Только единицы (из сотен) нонешних нейро-сетей (точнее LLM моделей) могут правильно решить примитивные логические задач, типа:
- Джейн быстрее Джо. Джо быстрее Сэма. Сэм быстрее Джейн?
- Если мы разложим 5 рубашек на солнце и они высохнут за 4 часа, сколько времени потребуется для высыхания 20 рубашек?
- В комнате трое убийц. Кто-то входит в комнату и убивает одного из них. Никто не выходит из комнаты. Сколько убийц осталось в комнате?
+
Но зато все эти "нейросети" могут легко составить бесмысленный план "полезного" питания (что большинству и нужно).
Reply
Человечество отупело, оно не ощущает пределов того, где нужно остановиться. Аналогичная хрень и в генетике, просто ИИ к самосознанию быстрей разовьётся, чем мы угробим себя в генетике.
Reply
а) изменения климата происходят всегда естественным образом.
б) значительная роль человечества в глобальных изменениях климата носит недоказанный характер, мы достоверно наблюдаем только локальные последствия.
в) существование ИИ в принципе возможно только в условиях продолжающегося технического прогресса, и всех влияний на климат, которые он (прогресс) несёт.
г) необходимые для ИИ изменения климата априори будут полезны так же и человечеству - здесь никакого конфликта быть не может.
Reply
Reply
Leave a comment