Дарио Амодеи: "Машины благодатной любви" (VII)

[giovanni1313]

<< Часть I - III
<< Часть IV - V
<< Часть VI

VII. Похороны демократии

До сих пор мы обсуждали, что мощный ИИ может принести отсталым авторитарным странам. Однако более интересен вопрос, что он может дать сегодняшним государствам с развитыми либеральными институтами. Ведь совершенству предела нет

Comments

[kvisaz]

Звучит перспективно

Алгоритмизация судебной системы - реальный политический мем в Штатах, согласно книге Шум Канемана в конце 20 века для судей предписывались чек-листы и алгоритмы для уменьшения разброса в приговорах. В начале 21 века это отменили

[nikolamsu]

В Китае, насколько я знаю, ИИ-суды уже работают в экспериментальном режиме с интересными результатами.

[giovanni1313]

Я наверняка отстал от жизни. Но крайний раз, когда я интересовался этой темой, уровень автоматизации там был не настолько радикальный. Были аналитические решения для прокураторы, позволяющие сделать черновики легальных документов типа обвинительного заключения. И было хорошее, юзер-френдли ПО, позволяющее потерпевшим составить исковое заявление и спланировать судебные заседания в удобное время.

[smertnyy]

Т.е. повсеместный ИИ скорее придёт в Китай, чем в США. Забавно.

[senior_wrangler]

Вообще-то можно было бы ожидать, что новые прорывные возможности появятся при взаимодействии биологических и политических факторов. Например, повышение интеллектуальных способностей, быстрый доступ к информации и рост способности к её интерпретации благодаря кибернетическому улучшению биологии на индивидуальном уровне создаст условия для нового политического устройства.

Кстати - а почему ИИ может быть только центральным и "внешним" по отношению к индивидууму? В какой-то момент должны появиться индивидуальные ИИ обученные на личном опыте, способные общаться не теряя индивидуальности.

[giovanni1313]

Политика в мире киборгов? :) Почему бы и нет.

Насчёт централизованности ИИ - хороший пойнт. У Амодеи, допустим, многое завязано на корпоративный и в конечном счете правительственный контроль над мощным ИИ. Некая логика в этом есть: самых умных (т.е. машины) надо задействовать там, где принимаются решения с самыми высокими ставками. Т.е. корпоративное и государственное управление, плюс научные разработки. Частная жизнь граждан - слишком "мелкая" тема. Но никаких принципиальных препятствий для "частных" ИИ я не вижу.

[nikolamsu]

И снова спасибо за отличный текст

[giovanni1313]

Дополню, что на протяжении этих тысяч лет форма общественного устройства, называемая "демократией", менялась кардинально. И сейчас в разных странах имеются очень разные варианты демократий. С автократиями примерно то же: некая центральная концепция осталось неизменной, а в остальном - бессчетное количество вариаций.

Поэтому урок истории заключается в том, что политической системе свойственно меняться. Главное, чтобы эти перемены были конструктивными (а не катастрофическими).

[smertnyy]

Если ИИ действительно интеллект, почему вы отказываете ИИ в недостатках известного нам человеческого интеллекта? Той же пристрастности.

[giovanni1313]

ИИ можно совершенствовать в рамках инженерного подхода. Человеческий интеллект в рамках инженерного подхода совершенствовать очень проблематично. Плюс человеческий интеллект практически не масштабируется: даже если мы как-нибудь "заинженерим" отдельную голову - на остальные головы это никак не повлияет.

Так что создать пристрастный ИИ, конечно, можно. А вот создать беспристрастный человеческий интеллект нельзя даже при всём желании.

[smertnyy]

Проблематично? В первые инженерные школы не могли подобрать среди дворян учеников, пришлось разбавлять др. стратами. Сейчас иметь математические способности определенного уровня должны иметь все. Конечно, по интеллекту сложнее отбирать, чем по видимым глазу признакам, но люди всё равно справляются.

Возвращаясь к ИИ. Если ИИ действительно станет интеллектом, т.е. будет самостоятельно думать, то неизбежно у него будут свои предпочтения. А если у ИИ не будет самостоятельности, какой же это интеллект тогда? Если у ИИ не будет самостоятельности, то он будет частью интеллекта того, кто использует ИИ. В нашем случае человеческого.

[smertnyy]

Если бы Амодеи оглянулся на окружающие его демократические реалии, он бы увидел, что сейчас, особенно в интернет-эпоху, гражданам доступна весьма глубокая политическая аналитика из множества источников. Однако гражданское общество, в своей основной массе, совсем не стремится к информированности и вдумчивости. А предпочитает формировать свои представления о политике из незамысловатых фейсбучных постов, твиттерных обрывков да ТВ-«зомбоящика»...//////

Сначала надо показать, как "глубокая политическая аналитика из множества источников" реально помогает влиять на политику. На мой взгляд, если ты не рожден в определенных семьях, и не имеешь в силу этого доступ к определенным инструментам политики, то вот эта вот "глубокая политическая аналитика из множества источников" тебе никак не помогает в реальной жизни. А если никак не помогает, то зачем она нужна? И люди, отказывающиеся от неё, действуют как раз рационально.