Сколько в тебе правды?
Идея присвоения социального рейтинга каждому гражданину всё никак не может набрать ход. В Китае, который можно считать пионером на этом пути, промежуточные итоги на сегодня провальные. Несмотря на громадьё планов, мощную бюрократическую машину и авторитарный подход. Идея выглядит красиво на бумаге, заманчива для автократий - но на практике ее реализация является сложнейшей задачей, для которой недостаточно одних только «берущих под козырек» партийных чиновников.
Тем не менее, идея жива и даже привлекает новых, довольно неожиданных сторонников. Знамя алгоритмического контроля из дрогнувших рук Китая решила подхватить колыбель современной демократии - Великобритания.
Парламентарий Джон Пенроуз предложил ряд поправок к подготовленному к рассмотрению «Биллю об онлайн-безопасности». И одна из них обращает на себя особое внимание. Согласно поправке, социальная сеть должна присвоить своим пользователям индекс, отражающий историческую фактологическую точность опубликованной ими информации.
Эмблема - пока не более, чем сатира. Пока.
Этот индекс должен отображаться в доступной форме, чтобы все потребители контента могли понять, с кем имеют дело. Рейтингованию подлежат как создатели контента, так и люди, постящие комментарии. При этом пока рейтинг нужно присваивать не всем, а лишь тем, кто набирает просмотры выше определенного порога. Каков именно порог - будет определять британский Ofcom (аналог нашего Роскомнадзора) по своему усмотрению. Этот же орган будет определять критерии, по которым методика расчета индекса будет признаваться удовлетворительной.
Мотивация законодателей проста: таким образом они хотят бороться с дезинформацией, особенно с информационными кампаниями враждебных стран. Нетрудно догадаться, что российско-украинская война дала мощные козыри в руки сторонников цифрового контроля.
Перейдем к анализу этой инициативы. Постараемся абстрагироваться от сиюминутной, политизированной мотивации и подойдем к вопросу с точки зрения социальной инженерии.
И начнем с того, что индекс доверия (давайте называть его так) рассчитывается платформами уже сейчас. Для всех без исключения пользователей, по алгоритмам, которые неподотчетны никаким государственным органам цензуры. И эта информация недоступна никому, кроме привилегированных сотрудников платформы.
Последний пункт вызывает тревогу сам по себе. Наличие у платформы закрытой информации о пользователях порождает информационную асимметрию. Которая, в свою очередь, искажает баланс интересов пользователей и платформы в пользу последней и открывает возможности для эксплуатации пользователей.
Мы может достаточно уверенно говорить, что платформы пользуются этой возможностью. Как минимум потому, что индекс доверия рассчитывается не ради праздного любопытства - а участвует в механизме рэнкинга выдачи контента пользователям. Другими словами, платформа выбирает, что именно показывать пользователю.
Платформа показывает пользователю то, что выгодно ей, платформе. Если бы платформе была выгодна только монетизация (т. е. время, проведенное на платформе) - это было бы полбеды. Но проблема в том, что деятельность соцсетей изрядно политизирована. Учитывая ряд неоднозначных историй в прессе - например, касающихся недостоверной информации о COVID-19, или борьбы с радикальными сторонниками Дональда Трампа, или альтернативных взглядов на сексуальное образование - мы можем предположить, что соцсети управляют выдачей контента для достижения собственных политических целей. Это может быть как формирование комфортной для себя политической среды, так и более активный подход: участие в формировании политической повестки.
Итак, социальный рейтинг - или, как минимум, рейтинг доверия - у каждого пользователя уже есть. Только пока он работает не столько на нас, сколько на корпоративные интересы. Будет ли польза, если возникнет его «государственный» вариант?
Оценка достоверности прошлых высказываний сама по себе имеет немалую общественную ценность. Проблема доверия - одна из ключевых в общественных отношениях. И механизмы, которые позволяют комплексно и достаточно точно определить прошлые «заслуги» субъекта, являются незаменимым инструментом.
С одной стороны, они позволяют делать более рациональный выбор в социальных взаимодействиях. Потому что сейчас мы вынуждены полагаться на ограниченные свидетельства - будь то личный опыт, чьи-то поверхностные отзывы или же (если речь идет о публичной фигуре) «лакированная» картинка в СМИ. С другой стороны, это мотивирует «следить за своим языком»: подобный механизм вводит очень плотную ответственность за недостоверные слова.
Поэтому у меня нет сомнений, что когда-нибудь общества придут к индексу доверия. Рано или поздно. Впрочем, как и у большинства социальных механизмов, у индекса доверия есть свои негативные стороны. Путь к нему тернист и извилист. И - возвращаясь к рассматриваемой законодательной инициативе - на нем будет набито немало шишек.
Пожалуй, главная слабость предлагаемых поправок состоит в том, что она увязывает проблему дезинформации с конкретными личностями. Это очень крупный просчет. Дезинформация и доверие к персоне - это фундаментально разные категории. Разные миры, если угодно. Да, можно найти между ними связь - но решить проблему дезинформации, пытаясь оперировать только персональными метриками, невозможно.
Дезинформация является дезинформацией не потому, что она исходит от завзятого лжеца и манипулятора. Дезинформация - это «вещь в себе», её суть остаётся такой же вне зависимости от источника (или, если на то пошло, получателя). И единственный подход, способный добраться до «корня зла» - это фокус на сути, на информационном контенте сообщения. Этот подход делает персональный рейтинг совершенно нерелевантным.
Персональный рейтинг работает, когда речь идет о персональных взаимоотношениях. Но когда речь идёт о вирусном распространении информации (или, следуя замыслу законодателей, о контенте с большим количеством просмотров), персональных взаимоотношений там не остаётся. Остается потребление контента, остается захват внимания - это процессы с совсем другой спецификой, менее осознанные. Остается ограниченный до минимума набор средств интеракции. Самая близкая к персональным взаимоотношениям вещь, которая остается - это комментарии, но и там характер коммуникаций в основном безадресный, не заинтересованный в личности собеседников.
Возможна масса сценариев, вызванных оторванностью персональных рейтингов от сути проблемы дезинформации. Один из классических - известный по финансам принцип «прошлая доходность не гарантирует будущих результатов». Другими словами, ничто не может гарантировать, что человек, обладающий идеальной историей сообщений, не совершит в какой-либо момент ошибку.
Это может случиться, например, из-за неравномерного уровня знаний в различных областях. Допустим, можно быть исключительным специалистом по COVID-19, но совершенно не интересоваться темой гендерной идентичности и потому транслировать неполиткорректные мифы. И наоборот.
Это поднимает проблему одномерности предлагаемого индекса. В самом деле, можно заработать высокий «капитал доверия» сообщениями на определенную тему, в которой человек действительно добротно разбирается. Но это совершенно ничего не скажет нам о том, насколько компетентным будет его мнение в остальных областях. И, как следует из эффекта Даннинга-Крюгера…
…человек будет с не меньшим энтузиазмом писать о вещах, в которых он совершенно ничего не смыслит, по сравнению с областью своей экспертизы. Соответственно, полезно будет дополнить индекс доверия тематическими областями, в которых источник достоин доверия. Это снизит наглядность показателя - но это классический трейд-офф с выбором между удобством представления и функциональностью.
Пока что это были «добросовестные заблуждения». К сожалению, система персональных индексов доверия очень уязвима и к враждебным атакам. И противопоставить этому вряд ли что-то возможно. Самый грубой способ - взлом чужих аккаунтов и трансляция сообщений от их имени. Но не менее эффективным будет и другой подход. Надо «вырастить» армию ботов, которым достаточно копипастить официальную информацию, нарабатывая себе рейтинг, труднодостижимый для живых людей. Затем, в один прекрасный момент, эти боты резко «меняют свои взгляды» и начинают постить то, что нужно организатору кампании.
Такая атака ставит вопрос о том, насколько оперативно должен обновляться индекс доверия и какой вес в нем имеют более свежие вводные. Единственная возможность ограничить подобные враждебные действия - это как можно более частое обновление. И тут мы натыкаемся на проблему гигантского масштаба: проверка фактической достоверности контента является чрезвычайно трудоёмкой задачей.
Мы уже разбирали опыт компании «Фэйсбук» в решении похожей проблемы. Там речь шла о факт-чекинге популяризованных статей по теме климатологии. Привлеченная к этой работе некоммерческая организация, в рядах которой формально числятся сотни ведущих научных специалистов, в итоге может обеспечивать детальный разбор только 1-2 материалов в неделю. Это абсолютно несопоставимо с теми объемами работы, которые потребует предлагаемая законодательная поправка.
Да, в том кейсе глубина анализа была больше - сравнимая с рецензированием научной статьи, сами материалы могли быть объемными, и для надежности каждый материал разбирали несколько экспертов. Но даже упростив требования к факт-чекингу, мы всё равно сталкиваемся с неподъемным валом работы. Кто будет ее выполнять? Очевидно, что с таким объемом потребуется огромное количество экспертов, которым нужно оплачивать потраченное время. И заутсорсить их за копейки куда-нибудь в Мумбаи тоже не получится. Факт-чекинг - сложная интеллектуальная работа, требующая обучения, знания широкого культурного контекста и, часто, специальных познаний в проверяемой области.
Именно высочайшая трудоемкость и является основной причиной, по которой аналоги индекса доверия, несмотря на их очевидную пользу для общественных отношений, до сих пор не реализованы на практике. Страхи по поводу антиутопических тенденций здесь не при чем. (И не потому, что они беспочвенны - просто эти страхи сами по себе вряд ли бы остановили создание таких систем в большинстве автократических обществ).
В принципе, у проблемы есть технологическое решение. Это машинные системы обработки естественного языка. Однако, несмотря на огромный прогресс в таких технологиях за последние 3 года, область проверки фактов всё еще остается относительно слабо разработанным направлением.
В настоящий момент машины относительно неплохо справляются с проверкой простых, обособленных заявлений. Но когда дело касается чуть более длинных мыслей - особенно там, где возникает контекст, важный для их адекватного восприятия, и там, где источник налегает на манипулятивные приемы - языковые модели пасуют.
Наш язык - очень богатая штука, позволяющая описать окружающую действительность бесчисленным множеством способов. И почти все эти описания не подпадают под бинарную классификацию «правда или ложь». Между абсолютной ложью и абсолютной истиной тянется огромная, туманная «серая зона». Высказывание «Земля плоская и стоит на трех слонах» более ложно, чем просто «Земля плоская». Еще ближе к истине «Земля имеет форму шара». Дальше нам придется вооружаться цифрами и знанием геометрии: поверхность Земли - эллипсоид с полярным радиусом 6357 км и экваториальным 6378 км. Но «эллипсоид» не подразумевает наличия впадин (заполненных океанами) и гор. Поэтому еще более истинная оценка формы Земли не может быть дана естественным языком - а только в формате цифровой карты.
«Мысль изреченная есть ложь», - наставляет Фёдор Иванович Тютчев. И мы добавим к этому: правды не найти даже в количественных измерениях. Поскольку любое измерение подразумевает погрешность. Идеал истины, таким образом, недостижим. И уж особенно он недостижим для описаний, сделанных естественным языком. Наш естественный язык уже много тысячелетий эволюционирует не в сторону точности, а в сторону эффективности. Эффективность означает, что нужно передать как можно больше информации, как можно меньше шевеля языком - и здесь чрезмерная точность может быть даже помехой.
В итоге инициатива британских законодателей сводится к тому, чтобы разделить «серую зону» по произвольным границам и назвать одну часть «белой», а другую - «черной». Где именно провести раздел? Однозначно ответить на этот вопрос невозможно: любая предложенная граница будет субъективной. Более того, от субъективизма трудно уйти даже при оценке того, где находится рассматриваемое сообщение по отношению к этой границе. У нас попросту нет надежного способа измерить «процентное соотношение правды» в тексте.
При этом наша «серая зона» имеет не только одно измерение «ложь-истина». Туда придется добавить еще и степень определенности объективного знания по искомому вопросу (например, мы мало что знаем о наличии или отсутствии инопланетных цивилизаций, и ненамного больше - в гуманитарных науках). Добавить степень эксплуатации когнитивных искажений читателя (буквальное прочтение текста может быть технически правдивым, но подразумевать ложный ход мысли). Добавить степень объективности изложения (речь о замалчивании неудобных фактов и отборе тех, что подтверждают определенную точку зрения). И, вероятно, добавить много чего еще.
И вот эту многомерную, запутанную «серую зону», "размазанную" по сотням и тысячам сообщений, парламентарии хотят свести к маленькой, простой для восприятия цифре. Очевидно, что такая манипуляция порождает почву для недоверия и споров по поводу того, какой же действительно должна быть оценка правдивости.
Примеры таких споров - очень упорных и затяжных - мы находим в сегодняшних социальных практиках, касающихся выяснения истины. Во-первых, это судебные процессы - особенно те, что касаются обвинений в клевете. Во-вторых, это альтернативные точки зрения в науке, где участники тратят уйму времени и стараний на сбор убедительных эмпирических доказательств. В первом случае на окончательный вердикт могут уйти годы. Во втором - десятилетия.
Подобные примеры заставляют скептически относиться к возможности реализации «тотального» факт-чекинга. Какие-то преимущества можно получить от перепоручения работы машинным системам - когда они будут в состоянии это «осилить». В этом случае хотя бы можно избавиться от разброса в субъективных оценках (останется только субъективизм машины). И сильно уменьшатся затраты на функционирование.
Добавим, что наличие работоспособных алгоритмов, отличающих правду от лжи (и 50 оттенков полуправды), возвращает нас к изначально сформулированной проблеме: зачем нужен рейтинг правдивости персоны, когда мы можем оценить правдивость самого сообщения? Бонус - моментальная реакция на каждое злонамеренное сообщение. В информационной войне время имеет критическое значение - и человеческий факт-чекинг никогда не в состоянии будет угнаться за машиной.
Но использование машин порождает новую коллизию. Мало того, что процесс извлечения персонального рейтинга из «серой зоны» малопрозрачен для обывателя. Вдобавок к этому прибавляется еще и общее, широкое недоверие к алгоритмам: их работа понятна людям еще в меньшей степени.
Недоверие к индексу доверия - это худший возможный результат, который только можно представить. И использование алгоритмов - далеко не единственный фактор, способный испортить дело.
Для процесса факт-чекинга ключевое значение имеет так называемый эталонный набор знаний. Та самая база, относительно которой проверяются утверждения. Именно степень соответствия этой базе - а не какой-нибудь абстрактной «объективной истине» - и будет определять оценку, данную сообщению.
Поэтому крайне важно понимать, что именно система факт-чекинга считает «фактами». Каковы критерии наделения информации статусом «факта». Каковы критерии лишения этого статуса. Кто формирует базу знаний и как она поддерживается. Ведь именно этот эталонный набор и будет точкой отсчета, от которой и будут выстраиваться все понятия «правдивости».
Вновь вернемся к нашей «серой зоне», в которой находится вся опубликованная обществом информация. Мало того, что в этой «серой зоне» мы рисуем границы на произвольном расстоянии от «объективной истины» - саму эту область «объективной истины» мы тоже локализуем вполне произвольно!
Теперь становится понятнее, откуда может взяться эрозия доверия к рейтингу. Абсолютно беспристрастных источников информации не существует. Разные части общества могут считать более честными разные источники. И когда государство централизованно объявляет «объективной истиной» источники, которые не совпадает с предпочтениями человека - это делигитимизирует такую систему в его глазах.
Стоит ли говорить, что контроль над тем, какая именно информация наполняет эталонный набор знаний, даёт большую власть над обществом, использующим рейтинги доверия? Инструмент можно сравнить с цензурой, работающей опосредованно, по определенному своду правил.
Такая система не даёт контроля над фактами. Зато она даёт мощные средства контроля над нарративом. Публикой невозможно управлять при помощи фактов - но нарративы являются идеальным средством для формирования нужной реакции общества.
«Сегодня страна принадлежит персоне, контролирующей коммуникации», - писал в 1973 Умберто Эко. На дворе сейчас 2022, и государственная власть захотела взять под свой контроль самый значимый канал общественных коммуникаций: электронные социальные сети.
А любая концентрация власти опасна. В данном случае мы видим, что механизмы использования индекса доверия будут полностью подконтрольны государственному аппарату. Исключительное право решать, как именно происходит факт-чекинг, как формируется индекс, кому он должен присваиваться в обязательном порядке - всё это планируется отдать в руки правительственному ведомству.
Западную публику пугают ужасами о тоталитаризме. Но тоталитаризм - он не на леденящих душу описаниях из книжек-антиутопий. И не в экзотических картинках с северокорейского ТВ. Реальный тоталитаризм как раз и заключается в этой концентрации власти, ползучей, скрытной и коварной. И то, что на пути этих поползновений даже в благополучной Англии сейчас стоит только технологическая нереализуемость, не внушает оптимизм.
Тут может возникнуть вопрос: неужели красивая идея индекса доверия так и останется навечно отравленной ядом властолюбия? Своеобразным «первородным грехом»?
Не будем делать поспешных выводов. И вспомним то, с чего начали: оценка доверия приносит больше всего пользу именно обществу. А не государству. Государству дано управлять механизмами насилия. И эффект от этих механизмов, в общем-то, одинаков вне зависимости от того, доверяет государство конкретному человеку или нет.
А раз оценка доверия - это про общество и для общества, давать государству командовать этим процессом вовсе необязательно. Более того, зная о рисках концентрации власти, мы должны не подпускать сюда государство на пушечный выстрел. Парламент - не место для оценщиков доверия, сэр Пенроуз.
Факты - вне политики и вне государственного управления. Для создания и работы системы оценки доверия нам нужны альтернативные, общественные институты. Совершенно независимые от структур официальной власти. Чем более распределенными будут эти общественные институты, чем большее число социальных групп будет вовлечено в систему оценки - тем беспристрастнее и точнее будет создаваемый индекс доверия. Нам нужно доверие каждого к каждому - а не рейтинг политической благонадежности и соответствия официальной линии партии.
Реальность - в отличие от нарративов - сложна и многогранна. Взгляд только с одной стороны - со стороны единственной социальной группы или чьего-то интереса - вряд ли в состоянии полностью отразить эту сложность.
Системы искусственного интеллекта, без которых создание индекса доверия труднопредставимо, умеют в беспристрастность лучше людей. Но это тот случай, когда «умеют» не означает «будут». ИИ - лишь инструмент. И для правильной настройки этого инструмента, отвечающей интересам всего общество, необходимо, чтобы в процессе настройки участвовало как можно больше социальных групп.
Еще одна важная вещь, которую стоит повторить - оценка правдивости информации может оказаться полезнее, чем оценка правдивости людей. Особенно если мы ведем речь о Сети. Сеть имеет информационную природу. В Сети информация первична, а люди находятся на втором плане.
Раз уж мы упомянули, что инструменты насилия являются обязательным атрибутом государства, мы можем объяснить тягу к персонализации индекса доверия именно с этой стороны. Дело в том, что насилие возможно только в отношении персоны. Применить насилие в отношении идеи никак нельзя. Поэтому за стремлением государства «взять каждого на карандаш» вряд ли скрывается что-то большее, нежели примитивная привычка командовать с помощью принудительных мер.
Таким образом, индекс доверия - совсем не безнадежная идея. Нужно только меньше государственного участия и больше представительства разных слоев общества. Нужен больший фокус на доверии к информации, чем на доверии к персонам.
Тем не менее, есть некоторые области, где доверие к персоне имеет очень важное значение. Таких областей немного - и это открывает нам уникальную возможность попробовать реализовать индекс доверия прямо сейчас, с нынешними несовершенными технологиями и высокой трудоёмкостью. Общество может позволить себе поддерживать индексы доверия только для очень ограниченного круга лиц.
Самые важные с точки зрения доверия позиции в обществе - это позиции, которые формируются в рамках представительной демократии. Представительная демократия исходит из того, что большое число избирателей делегирует свою волю отдельным персонам. Власть этих персон велика, и от них зависит дальнейшая судьба вверенной им страны. Степень доверия общества к ним прямо определяет, работает ли демократия согласно своим принципам.
Работает ли английская демократия согласно своим принципам? К сожалению, скорее нет, чем да. Наиболее свежий опрос ”Carnegie UK” показывает, что 76% публики не доверяет местным парламентариям в решениях, которые могли бы улучшить ее жизнь. 73% - не доверяет правительству. 61% считает, что правительство не разделяет такие ценности, как честность и принципиальность.
Другой опрос, от фабрики мысли IPPR, обнаружил, что уровень доверия к английским политикам упал до самого низкого уровня с 1944 года. 63% населения считает, что «политики работают только на свои интересы».
Нет смысла расстраиваться по поводу этой статистики. Зато есть смысл действовать. Англия, колыбель современной представительной демократии, может написать в истории демократии новую страницу - создав институт индекса доверия, обязательного для всех избираемых политиков национального уровня. Таковых в Англии 650 - состав нижней палаты парламента. Джон Пенроуз, будучи одним из ее членов, несомненно, будет рад почувствовать на себе все прелести собственной инициативы.
650 человек - это приемлемый объем работы для факт-чекеров. В будущем, когда обкатаются технологии, будут улажены основные проблемы, испытаны многочисленные варианты формирования и представления индекса, и появится резерв по трудозатратам на поддержание этого института, можно расширить сферу его обязательного применения. Например, на кандидатов в члены парламента (потому что для общества важно оценивать персону ДО того, как она получит большие полномочия, а не после). И на выборные позиции местного уровня.
И, разумеется, рано или поздно инициативу надо распространить не только на слова, но и на то, как политики их держат. Увы, в этой сфере слова слишком часто расходятся с делами - и это крайне важно с точки зрения формирования доверия. Более того, именно дела, а не слова гораздо сильнее влияют на общество и потому должны представлять для него особый интерес.
Важно, чтобы расширение применения индекса доверия шло только тогда, когда общество удовлетворится его работой на предыдущих уровнях власти, когда он покажет реальную действенность. Не будем забывать, что поддержание индекса для каждого нового человека и каждого нового аспекта деятельности несет свои издержки. Поэтому «безоглядное» расширение неосуществимо как минимум по экономическим причинам.
По мере того, как технологический прогресс способствует концентрации власти в наиболее мощных институтах (и особенно - у государства), растёт необходимость создания новых механизмов «сдержек и противовесов», позволяющих обществу контролировать власть. Индекс доверия выглядит одним из таких механизмов.
Никакая примитивная политическая мотивация вроде «борьбы с пророссийской пропагандой» не может и близко сравниваться по важности с оценкой адекватности внутренних институтов власти. Степень доверия к руководству собственной страны гораздо важнее степени доверия к далёким ольгинским троллям. Слишком многое зависит от первых; вторые способны только на информационный шум.
Предположим, что в далеком будущем технологии искусственного интеллекта подтянутся и снизят издержки на факт-чекинг. Есть ли смысл в распространении индекса доверия на всех граждан страны? Так сказать, на простой народ?
На мой взгляд, говорить об обязательности ведения индексов доверия за пределами публичной власти пока преждевременно. Добровольно - да, причем во многих случаях добровольная инициатива по созданию персонального индекса принесет человеку массу выгод.
Но вот принудительный сплошной контроль… Формально он ставит государственную власть и простого человека «на одну доску», уравнивает требования к ним и уравнивает возможности контроля. Однако мы должны учитывать массу скрытых, неформальных нюансов. Государство априори, по совокупности организационных возможностей и практических механизмов, сильнее простого человека и склонно эксплуатировать это неравенство. Поэтому обязательность индексов доверия нивелирует тот эффект, те «сдержки и противовесы», которые индекс доверия даёт обществу. Без дополнительных (новых, технологических) инструментов контроля власти баланс сил вновь грозит сместиться в пользу цифрового тоталитаризма.
А если вас все еще беспокоит безнаказанность ольгинских троллей - для них вполне хватит проверки информационного содержания сообщения. За большинством их аккаунтов всё равно нет никаких личностей - так что идея персонального индекса доверия здесь выглядит малоприменимой.
...У Великобритании есть шанс подхватить знамя алгоритмического контроля из дрогнувших рук Китая. Вопрос в том, кого именно решат контролировать энтузиасты политических технологий. И куда именно это знамя будет водружено.
Китай планировал водрузить его на мавзолей мертвого политического лидера, проповедовавшего нетерпимость, насилие и жестокость. Англия, по всей видимости, украсит этим знаменем полузаброшенный храм Войны. Несмотря на внешние различия, проповеди там звучали примерно такие же.
Незавидная участь. И не для знамени - ему всё равно, где висеть, это лишь инструмент. Но для общества, в котором этот инструмент будет использоваться для угнетения и вражды.
Пока общество не возьмет инициативу в свои руки и не перехватит это знамя у жадного до власти государственного аппарата - у него мало шансов избежать этой участи. Нынешние энтузиасты политических технологий, к сожалению, не заинтересованы ни в чем, кроме эксплуатации демократических механизмов в пользу привилегированного меньшинства.
Алгоритмический контроль способен обратить привилегии в бремя и обнажить эксплуатационную сторону нынешней политической системы. Но для этого он должен использоваться обществом, а не высокопоставленным меньшинством.
Демократии уже доказали, что могут эволюционировать в лучшую сторону без насилия, жестокости и милитаризации. Однако весь предыдущий исторический период был лишь разминкой, “easy mode”. Справлялись с этой разминкой далеко не все - но впереди нас ждет кое-что посложнее. Игра пошла по принципу: эволюционируй - или умри.
За новый уровень сложности ответственны информационные технологии. Темп их развития определяет то, с каким темпом растут возможности по эксплуатации демократических механизмов. Если демократии неспособны подстраивать свою «защиту» в таком же темпе - они обречены на вырождение.
Чем интенсивнее эксплуатация, тем меньше демократии способны на сопротивление и тем быстрее идёт деградация. Поэтому цена беспечности растет: стоит один раз оступиться, и уязвимость начинает быстро расти. И есть реальная опасность прохождения точки невозврата: когда технологии настолько исказят демократические механизмы, что общество будет не в состоянии «естественным» путем исправить ситуацию.
Лучшая защита - это нападение. Разворот «острия» алгоритмического контроля от граждан в сторону власти прекрасно подходит в качестве проактивного средства укрепления демократии.
Информационные технологии совершенствуются буквально с каждым днем. И каждый день промедления подтачивает основы демократии. Эволюционируй сейчас - или умри.
У общества нет возможности понять, когда будет пройдена точка невозврата. Увы, никто не может поручиться, что она уже не осталась позади.
У общества нет возможности понять, пройдена ли точка невозврата. И это всегда - даже в самой незавидной ситуации - оставляет шансы на борьбу. Борьбу здесь и сейчас. Каждый день промедления ухудшает его положение.
У общества нет возможности понять, пройдена ли точка невозврата. Но итог этой борьбы - над кем всё же будет установлен алгоритмический контроль, над обществом или над властью - будет весомым аргументом в этом вопросе.
Κυβέρνησος ἐσχατιαί / Горизонты управления
...
30. Плод раздора, плод надежды
31. Нечеловеческий выбор
32. Сколько в тебе правды?
33. Списки смерти
...