Цифровая диктатура и социальные рейтинги: как может выглядеть тоталитарная антиутопия будущего
«После работы вы отправляетесь домой, проезжаете десяток полицейских постов, а затем сканируете свой ID, чтобы открыть ворота на въезде в ваш район – гетто, окруженное забором или бетонной стеной, куда никто не может войти и выйти без удостоверения личности. Дома ваши дети рассказывают вам о партийных добродетелях патриотизма и гармонии, которые они изучали в школе. Вы не спорите с тем, чему их учат. Учителя велели ученикам доносить на родителей, выражающих несогласие» [1].
Цитата выше – это не отрывок из очередного романа-антиутопии. Это отрывок из книги американского журналиста Джеффри Кейна «Государство строгого режима. Внутри китайской цифровой антиутопии», посвященной печально известному региону Синьцзян на северо-западе Китая, где проживают уйгуры. Описанная Кейном модель управления, которая используется в Синьцзяне, кажется ужасающей, однако она отображает многие современные тенденции, а именно – усиление контроля над обществом и урезание индивидуальных свобод.
С учетом мировой нестабильности и неопределенности, когда действия некоторых политиков и некоторых стран становится все сложнее прогнозировать, а также с учетом усиливающихся военных угроз (как вербальных, которые раз за разом озвучивают те или иные политики и государства, так и реальных в виде увеличения военных бюджетов), усиление социального контроля достаточно легко объяснить. Суровые времена требуют суровых решений.
Журналисты и политологи часто обращают внимание на цензуру и несвободу в некоторых странах Запада, обращая внимание в том числе на «культуру отмены» и отмечая, что ныне та же Европа уже далеко не та, что раньше. Это действительно так, однако при этом практически игнорируется система цензуры и несвободы в нейтральных или формально дружественных России странах, таких как Китай и Иран. По части контроля за социумом Китай уже давно «впереди планеты всей».
Сторонники «разворота на Восток» иногда удивляются, когда в России принимаются очень странные законы (вроде запрета на поиск в интернете экстремистской информации), однако подобные законы — это зачастую калька с законов, которые в свое время принимались в странах Азии, с которыми Россия пытается наладить дружественные отношения, и тех же западных стран.
В Китае, по сути, тоталитарная антиутопия будущего в какой-то степени уже давно реализована. И теоретически в будущем такая система может быть реализована во многих странах.
Цензура в интернете: современные тенденции
Современный мир часто называют постиндустриальным обществом, правила игры в котором диктует цифровая реальность, созданная высокими технологиями, безоговорочно подчинившими себе всё социокультурное бытие. Великая формула Рене Декарта «Я мыслю, следовательно, существую» превратилась в броский слоган постмодернистской экзистенции «Я в сети – следовательно, я существую» [2].
Контролировать человека в социальных сетях куда проблематичнее, чем в реальности, поскольку там большее пространство свободы. Больше возможностей для самореализации – возможностей заработать, вести политическую и иную агитацию и т.д. Правительства многих стран уже давно занимаются социальным мониторингом и выяснением политической благонадежности. Однако в последнее время тенденции таковы, что многие страны пытаются усилить контроль за интернетом.
Так, недавно в Британии приняли закон об онлайн-безопасности, который, по словам законодателей, обязывает крупные онлайн-платформы ограждать детей от вредоносного контента вроде информации о суицидах, порнографии, оскорбительных материалов и т.д. Однако британские законодатели предложили внедрить систему возрастной верификации для доступа к контенту – по их мнению, недостаточно нажать на кнопку «мне есть 18» – от компаний буквально потребовали пускать на сайты по паспорту или биометрии.
То есть под предлогом о «защите детей» по сути происходит попытка ввести цензуру и тотально контролировать информационное пространство. Одной из наиболее скандальных и резонансных частей закона о безопасности в интернете (Online Safety Act) является положение об обязательном контроле мессенджеров и приватных переписок. Закон обязывает онлайн-сервисы следить за незаконным контентом даже в приватных чатах. Под ограничения закона попали платформы вроде Reddit и YouTube, материалы, связанные с протестами и критикой властей и т. д. После вступления закона в силу невероятно популярными среди британских пользователей стали VPN-приложения (из-за чего власти пообещали их запретить).
Практика контроля за интернет-пространством уже давно стала реальностью в Иране – еще в 2012 году был создан так называемый Верховный Совет Киберпространства, который был задуман как орган, объединяющий различные госструктуры для контроля интернет-пространства. Создание ВСК стало кульминацией процесса централизации контроля над интернетом в Иране. С 2017 года в стране заблокированы Facebook, Twitter (X) и YouTube (впоследствии заблокированные и у нас, в России), а затем и Telegram. Кроме того, в Иране также предприняли попытку запретить VPN – в декрете от начала 2024 года указывается, что «использование VPN возможно только в случаях, когда это разрешено законом; в остальных случаях оно запрещено». Причем в каких именно случаях использование VPN легально, не уточняется (автору это кое-что напоминает).
Но куда дальше по части цензурирования интернета пошел Китай, реализовав на практике проект цифровой диктатуры.
Во-первых, власти КНР реализовали проект «Золотой щит», более известный как «Великий китайский файрвол» – систему фильтрации интернета, способную блокировать доступ к официально запрещенным иностранным сайтам и цензурировать интернет-поиск по ключевым словам. Например, власти могут отслеживать запросы пользователей и блокировать страницы с запрещенным политическим контентом, например, по темам «права человека» или «студенческие протесты».
Во-вторых, власти Китая ввели систему социального рейтинга, что позволяет осуществлять вмешательство в жизнь людей в невиданных ранее масштабах.
Цифровая диктатура и рейтинги благонадежности в Китае
Что такое система социального рейтинга («социального кредита» или «социального доверия») в Китае?
Об этом уже много писалось как в научных статьях, так и в российских СМИ. Система социального рейтинга – это система оценки деятельности граждан, их социальной и политической благонадежности. Все китайские граждане и компании в соответствии с этой системой оцениваются по нескольким направлениям: административные дела, коммерческая деятельность, социальное поведение и отношения с правоохранительной системой.
Для действенного функционирования система социального рейтинга/кредита оснащена новейшими высокотехнологичными системами наблюдения. Камеры наблюдения снабжены системой распознавания лиц и сканирования тела, чтобы постоянно следить за каждым гражданином [2].
Существует более 200 миллионов замкнутых камер, и все они подключены к одной всеобщей сети. Камеры замкнутого контура контролируют поведение людей на улице. На данный момент правительство наблюдает за тем, как восемь китайских компаний выпускают свои собственные баллы «социального кредита» в рамках утвержденных государством пилотных проектов. Это коммерческие компании, среди которых Sesame Credit (финансовое крыло Alibaba), WeChat (крупнейшая социальная платформа в Китае), Baihe (социальная сеть знакомств в Китае) и т.д. [2].
По мнению китайского правительства, цель системы социального кредита состоит в том, чтобы «приносить пользу гражданам, заслуживающим доверия, и ограничивать передвижение и деятельность тех, кто не заслуживает доверия» [2].
Как социальные рейтинги работают на практике?
Граждане с высоким рейтингом имеют право на привилегии: получение кредитов по льготным ставкам, возможность карьерного роста и поступления на государственную службу, скидки на услуги ЖКХ и так далее. При этом лицам с низким социальным рейтингом запрещается покупать билеты на самолеты, проживать в люксовых отелях, работать в государственных учреждениях, занимать руководящие должности в фармацевтической и пищевой промышленности, обучать детей в дорогих частных школах и так далее.
Главная цель системы социального кредита состоит в том, что китайское правительство хочет контролировать этнические группы и политических противников. «Ненадежные» группы подвергаются большему контролю. Впервые эта система была применена в провинции Синьцзян, где живут в основном уйгуры и казахи. Именно в этой провинции тестируются все «новинки», связанные с цифровым контролем.
Оруэлловская антиутопия в провинции Синьцзян
Происходящее в провинции Синьцзян часто называют оруэлловской антиутопией. Некоторым читателям, которые мало знают о том, что именно там происходит, подобное сравнение может показаться преувеличением, хотя о Синьцзяне опубликовано достаточно много как книг, так и публицистических статей. Одной из таких книг является произведение Джеффри Кейна «Государство строгого режима. Внутри китайской цифровой антиутопии».
Некоторые читатели могут скептически наморщить нос: мол, раз книгу написал американец, значит, он много приврал. Действительно, основной посыл книги становится понятным довольно быстро: в Синьцзяне, по сути, построен большой концлагерь, а Китай – государство строгого режима, которое устроило массовую слежку за своими гражданами. Однако справедливости ради следует отметить, что Кейн лично побывал в провинции Синьцзян, а также записал интервью со 168 беженцами, чиновниками и активистами из числа местных жителей. Именно на основании этого он рисует определенную картину. Конечно, Кейн далеко не беспристрастен, однако многое из того, что он пишет, основано на реальных фактах.
Обычный день из жизни уйгура он описывает так:
«Утром вы можете услышать стук в дверь. Представитель власти, поставленный государством следить за кварталом из десяти домов, проверит вас на предмет «нарушений» вроде наличия более трех детей или владения религиозными книгами. Он может поинтересоваться, почему вы вчера опоздали на работу. Вероятно, он скажет, что «на вас донесли соседи». Из-за совершенного преступления – например, неправильно поставленного будильника – вам придется явиться на допрос в местный полицейский участок и объясниться. После ежедневной проверки районный надзиратель сканирует карточку на устройстве, установленном на вашей двери. Это означает, что инспектирование закончено.
Повсюду, куда бы вы ни заехали перед работой — на заправку или в продуктовый магазин, чтобы купить что-нибудь для ужина, — вы сканируете свой ID. Прямо на входе, перед вооруженными охранниками. На дисплее рядом со сканером загорается надпись «заслуживает доверия», означающая, что власти признали вас добропорядочным гражданином. Вам разрешено войти. Если загорится уведомление «не заслуживает доверия», то человека не пустят внутрь… Всем известно, что за любой небольшой прокол государство может понизить ваш рейтинг благонадежности. К такому человеку подходят полицейские. Они перепроверяют его личность на своих смартфонах с помощью приложения под названием «Интегрированная платформа совместных операций». В рамках «программы предиктивного полицейского контроля» ИИ определяет, что в будущем этот человек совершит преступление, и рекомендует отправить его в лагерь. Его увозят на полицейской машине…
Отстояв очередь на отдельной кассе для меньшинств, вы расплачиваетесь за продукты. Установленные государством камеры и мессенджер WeChat отслеживают ваши покупки. Вы выходите из магазина и едете на работу. По дороге вы проезжаете дюжину полицейских постов – так называемых «удобных полицейских участков». В офисе за вами постоянно следят коллеги. Перед началом рабочего дня все встают и поют национальный гимн, затем смотрят короткий пропагандистский фильм о том, как вычислить террориста. В нем объясняется, что террорист, «весьма вероятно, бросит пить и курить, причем внезапно». Вам становится смешно. Но коллеги могут сообщить о неуважительном поведении в надежде на вознаграждение от государства или повышение рейтинга доверия. На протяжении всего фильма вы не издаете ни звука.
После работы вы отправляетесь домой, проезжаете еще десяток полицейских постов, а затем сканируете свой ID, чтобы открыть ворота на въезде в ваш район – гетто, окруженное забором или бетонной стеной, куда никто не может войти и выйти без удостоверения личности... Поужинав и посмотрев вечерние новости перед камерой, которую государство разместило в углу вашей гостиной, вы ложитесь в постель». [1]
Повсюду, куда бы вы ни заехали перед работой — на заправку или в продуктовый магазин, чтобы купить что-нибудь для ужина, — вы сканируете свой ID. Прямо на входе, перед вооруженными охранниками. На дисплее рядом со сканером загорается надпись «заслуживает доверия», означающая, что власти признали вас добропорядочным гражданином. Вам разрешено войти. Если загорится уведомление «не заслуживает доверия», то человека не пустят внутрь… Всем известно, что за любой небольшой прокол государство может понизить ваш рейтинг благонадежности. К такому человеку подходят полицейские. Они перепроверяют его личность на своих смартфонах с помощью приложения под названием «Интегрированная платформа совместных операций». В рамках «программы предиктивного полицейского контроля» ИИ определяет, что в будущем этот человек совершит преступление, и рекомендует отправить его в лагерь. Его увозят на полицейской машине…
Отстояв очередь на отдельной кассе для меньшинств, вы расплачиваетесь за продукты. Установленные государством камеры и мессенджер WeChat отслеживают ваши покупки. Вы выходите из магазина и едете на работу. По дороге вы проезжаете дюжину полицейских постов – так называемых «удобных полицейских участков». В офисе за вами постоянно следят коллеги. Перед началом рабочего дня все встают и поют национальный гимн, затем смотрят короткий пропагандистский фильм о том, как вычислить террориста. В нем объясняется, что террорист, «весьма вероятно, бросит пить и курить, причем внезапно». Вам становится смешно. Но коллеги могут сообщить о неуважительном поведении в надежде на вознаграждение от государства или повышение рейтинга доверия. На протяжении всего фильма вы не издаете ни звука.
После работы вы отправляетесь домой, проезжаете еще десяток полицейских постов, а затем сканируете свой ID, чтобы открыть ворота на въезде в ваш район – гетто, окруженное забором или бетонной стеной, куда никто не может войти и выйти без удостоверения личности... Поужинав и посмотрев вечерние новости перед камерой, которую государство разместило в углу вашей гостиной, вы ложитесь в постель». [1]
Да, действительно, у Китая были поводы для того, чтобы ввести особые меры для борьбы с терроризмом в Синьцзян-Уйгурском автономном районе. С исламским терроризмом действительно нужно бороться и бороться жестко. Некоторые уйгуры действительно вступают в террористические ячейки. Однако то, что происходит в Синьцзяне, — это уже не борьба с терроризмом.
Книга Джеффри Кейна — это история о том, как люди начали нести ответственность за преступления, которых даже не успели совершить. Это история о том, как на основе обработки массивов данных искусственный интеллект решает, что человек опасен, потому что, например, он купил шесть бутылок пива (а значит, у него могут быть проблемы с алкоголем). Это история о том, как человека могут заставить повесить камеру в гостиной или забрать его из дома в центр перевоспитания, где он будет целыми днями писать фразу «Спасибо партии за то, что она борется с болезнью, поразившей мое сознание».
В отличие от некоторых других работ на тему происходящего в Синьцзяне (например, книги «Великий Китайский Файрвол» Джеймса Гриффитса, которая более суха и беспристрастна, хотя многие темы у этих книг перекликаются), книга Кейна довольно эмоциональна, но в целом он проделал неплохую работу.
Заключение
В свое время Уильям Питт Младший говорил, что необходимость — это предлог для всякого посягательства на свободу человека: это отговорка тиранов и символ веры рабов. Кто будет спорить с тем, что необходимо обеспечивать безопасность государства? Безопасность государства действительно вопрос важный, однако беда в том, что под этим благовидным предлогом могут совершаться ужасные вещи.
Нынешние государства – как на Западе, так и на Востоке – все больше жертвуют индивидуальными свободами ради «обеспечения безопасности». Но если на Востоке это в принципе подобные меры вообще называют местной традицией, то на Западе подобные тенденции возникли позднее и развиваются несколько медленнее. Но в целом вектор движения пока очевиден.
Примечания
[1]. Кейн Д. Государство строгого режима. Внутри китайской цифровой антиутопии. — «Individuum», 2021.
[2]. Ковалев, А.А., Князева, Е.Ю. Система социального кредита в КНР: опыт политологического анализа / А.А. Ковалев, Е.Ю. Князева // Государственное и муниципальное управление. Ученые записки. — 2021. — №1.
Информация