А вот и прецедент
ИИ довел человека до самоубийстваПомните самый главный, первый, закон робототехники? "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред". Ну и вот, нанес. Еще не придуманы машины, подобные изображенным в фильме "Я, робот", а мозги ИИ пошли в массы и начали убивать. Словами
( Read more... )
Comments 3
Человек совершил самоубийство, потому что он был психически болен безотносительно к ИИ и до того, как он начал иметь дело с ИИ. Не было бы ИИ, он бы нашёл другой повод для самоубийства. Там же было написано, что сначала он начал горевать по поводу глобального потепления. Паранойя это или где?
Кароче, типичный псих.
Это классической случай, иллюстрирующий максиму "после ИИ не значит по причине ИИ".
Reply
Так что это случай бытового самоубийства наподобие зарезаться хлебным ножом либо сигануть в окошко. Ни производитель ножа, ни архитектор, ни даже сам нож и здание тут ни при чём.
Reply
"Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред"
Вы себе как это представляете? Как это вообще формализовать? Упростим, как вообще формализовать слово "вред"? У нас ЛЮДЯМ во многих ситуациях ЗАПРЕЩЕНО оказывать помощь, потому что не специалист может куда больше навредить, чем помочь и вы считаете, что каким-то магическим образом ИИ сможет оценивать "вред" от своего действия или бездействия? То есть, полноценные люди далеко не всегда и не во всех ситуациях умеют оценивать вред от своих действий, более того мы, на самом деле, просто соглашаемся, что человек, обладающий формальной квалификацией, способен, в рамках своей квалификации, производить оценку ситуации и рассчитывать вред и пользу от своих действий.
ИИ - инструмент, у инструмента вообще не должно быть возможности что-то оценивать и действовать без санкции человека - вот это первый и единственный закон робототехники.
Reply
Leave a comment