Корпорация «Автократия». Диктаторы, которые хотят править миром - Эпплбаум Энн
Даже когда эта система уже создавалась, никто не верил, что она будет работать. Если американцы наивно переоценивали роль торговли в построении демократии, то в отношении технологий они были ещё прекраснодушнее. Стоит ещё раз вспомнить, как эксперты по внешней политике в 2000 году смеялись над шуткой президента Клинтона — когда тот сказал, что любая попытка Китая контролировать интернет будет похожа на «попытку прибить желе к стене». В книгах под заголовками вроде «Сюда приходят все» и «Моральная виртуальность» утверждалось, что интернет приведёт ко взрывному росту самоорганизации, даже к культурному ренессансу. Ещё в 2012 году рецензент The New York Times не мог всерьёз воспринять идею, высказанную в одной из моих книг, что интернет может стать инструментом контроля. «Владимир Путин ещё может сделать из неё пророка [137], — писал обо мне Макс Франкель, — но пока, в этом веке, технологии стали желанной защитой от тирании».
Пока мы пели хвалу интернету, предоставляющему столько разных путей для распространения демократии, китайцы разрабатывали систему, которую иногда называют Великим китайским файрволом. Это название, несмотря на приятный исторический флёр, вводит в заблуждение. «Файрвол» звучит как название физического объекта, а китайская система управления интернетом — фактически контроля за общением — включает множество разных элементов, начиная с продуманной системы блокировок и фильтров, не позволяющих пользователям видеть определённые слова и фразы. Среди них, как известно, есть «Тяньаньмэнь», «1989» и «4 июня», но это далеко не полный список. В 2000 году был принят документ под названием «Меры по управлению интернет-коммуникациями», запрещающий чрезвычайно широкий спектр информации [138], включая всё, что «угрожает национальной безопасности, ведёт к разглашению государственных тайн и ниспровержению правительства, подрывает национальное единство» и «наносит ущерб чести и интересам государства», — словом, всё, что не нравится властям. Китайским социальным сетям было позволено процветать, но только в сотрудничестве со службами безопасности, которые с самого начала сконструировали их так, чтобы обеспечить слежку за пользователями.
Помогли иностранные компании: поначалу они ринулись на этот новый рынок цифровой безопасности так же, как на постсоветские финансовые рынки. Компания Microsoft в своё время изменила алгоритмы ведения блогов в соответствии с протоколами Великого файрвола. Yahoo согласилась подписать [139] «публичное обязательство о самодисциплине», гарантирующее, что запрещённые слова не будут появляться в поисковых выдачах. Другая американская компания, Cisco Systems, продала Китаю оборудование на сотни миллионов долларов, включая технологию, блокирующую трафик на запрещённые сайты. Когда я писала об этих сделках в 2005 году, представитель компании сказал мне, что это «та же технология, с помощью которой ваша городская библиотека блокирует порнографию», прибавив: «Мы не делаем ничего незаконного». Покойный китайский правозащитник Гарри Ву говорил мне, что у компании Cisco, как он узнал от её представителей в Китае, есть контракты на поставку технологий полицейским департаментам по меньшей мере в тридцати одной провинции [140].
Но Китай, как и во многих других сферах, усваивал необходимые ему технологии, а потом вытеснял иностранные компании. Google изо всех сил старалась соблюдать правила [141] Великого файрвола — и в 2010 году всё же сдалась после кибератаки, организованной Народно-освободительной армией. Позднее компания тайно разрабатывала [142] версию своей поисковой системы, совместимую с китайской цензурой, однако в 2018 году отказалась и от неё после протестов сотрудников и критики со стороны общественности. В 2009 году Китай запретил Facebook, в 2014 году — Instagram; TikTok, хоть и созданный китайской компанией, никогда не был разрешён в Китае.
Помимо этого, китайский режим раскинул свои сети и за пределами киберпространства, научившись сочетать системы онлайн-слежки с другими инструментами репрессий, включая уличные камеры, полицейские проверки и аресты. Самая изощрённая версия этой комбинированной системы внедрена сегодня в Синьцзяне, провинции, где живёт мусульманское меньшинство Китая — уйгуры. После череды политических протестов 2009 года государство начало не только арестовывать и задерживать уйгуров, но и экспериментировать с новыми формами онлайн- и офлайн-контроля. Уйгуров обязали установить на телефоны «приложения-няньки», которые постоянно ищут во всех видах переписки «идеологические вирусы», включая стихи из Корана и другие отсылки к религии, а также подозрительные высказывания. Эти приложения могут отслеживать покупки электронных книг и местоположение человека, передавая сведения в полицию, а также выявлять необычное поведение: подозрение может вызвать всякий, кто ставит VPN, кто вообще не выходит в сеть и кто тратит дома слишком много электричества (это может говорить о том, что у него живёт тайный гость). С помощью технологии распознавания голоса и даже мазков ДНК [143] власти следят, куда уйгуры ходят, ездят и где совершают покупки.
В конце концов эта система может распространиться на весь Китай, где сотни миллионов видеокамер уже ведут наблюдение за общественными местами. Искусственный интеллект и программы распознавания лиц уже идентифицируют людей, проходящих мимо камер, мгновенно связывая эти данные с другой информацией, полученной из телефонов, социальных сетей и прочих источников. Система так называемого «социального рейтинга» уже объединяет множество баз данных — и людей, нарушающих правила, заносят в чёрный список. Иногда эту систему называют благодушным термином «технология безопасного города», как будто её единственная функция — оптимизировать дорожное движение, хотя она, действительно, отвечает и за это.
Разумеется, безопасность — не единственная цель. Росс Андерсен, журналист со специализацией на технологиях, написал в The Atlantic, что скоро «китайские алгоритмы смогут объединять данные [144] из широкого круга источников — сведения о поездках, друзьях и знакомых, читательских привычках, покупках, — чтобы предсказывать политическое сопротивление до того, как оно произойдёт». С каждым новым прорывом, с каждым усовершенствованием ИИ Китай всё ближе к своей версии святого Грааля: системе, способной стереть из интернета не только слова «демократия» и «Тяньаньмэнь», но и сам образ мыслей, побуждающий людей становиться борцами за демократию или ходить на протесты в реальной жизни.
Другие страны могут последовать этому примеру. Китайский технологический гигант Huawei уже продал Пакистану, Бразилии, Мексике, Сербии, Южной Африке и Турции «технологии безопасного города», системы наблюдения и искусственного интеллекта [145]. Одно из подразделений малайзийской службы безопасности купило у китайской компании ИИ-технологию, которая позволяет в режиме реального времени сравнивать записи камер с изображениями в центральной базе данных. Сингапур приобрёл сходный набор инструментов и даже объявил о планах установить камеры с технологией распознавания лиц на каждом фонарном столбе города-государства [146]. Президент Мнангагва купил [147] технологию распознавания лиц, предположительно — для разработки «интеллектуальных приложений, обеспечивающих безопасность в аэропортах, на вокзалах и автобусных станциях» Зимбабве, но с явным потенциалом для политического контроля.
