systemity

Цель – алгоритмическое государство. Внутри китайской антиутопии

Inside China’s Dystopian Dreams: A.I., Shame and Lots of Cameras
By Paul Mozur
July 8, 2018
New York Times

База данных индивидуумов за которыми необходимо следить – подозреваемыми в терроризме, криминальными элементами, торговцами наркотиками и диссидентами по словам человека, работающего на правительство в проектах по слежке насчитывает 20-30 миллионов человек.

На вокзале в Чженчжоу офицер китайской полиции в очках, идентифицирующих лица, распознал контрабандиста героина.

В Циндао – городе, известном своим германским колониальным наследием, камеры, управляемые искусственным интеллектом, помогли полиции задержать два десятка преступников посреди пивного фестиваля.

В Вуху подозреваемый в убийстве был опознан камерой наружного наблюдения в тот момент, когда он покупал еду в уличном киоске.

С миллионами камер и миллиардами строк кода Китай строит хай-тековское авторитарное будущее. Пекин делает ставку на технологии распознавания лица и искусственный с целью создания сети идентификации и слежки за 1,4 миллиардами обитателей страны. Он намерен соорудить гигантскую и беспрецедентную систему национальной слежки – при помощи процветающей индустрии хай-тека.

Китай выворачивает наизнанку привычное мнение о том, что технология является великим демократизатором, несущим людям свободу и соединяющим их с миром. В Китае технология означает контроль.

В некоторых городах камеры сканируют поезда в поисках разыскиваемых преступников. Гигантские экраны-билборды демонстрируют лица пешеходов – нарушителей правил дорожного движения и публикуют списки тех, кто не может выплатить свои долги. Сканеры опознавания лиц охраняют входы в жилые комплексы. Уже сегодня в Китае установлено 200 миллионов камер наружного наблюдения – в четыре раза больше, чем в Соединенных Штатах. Эти усилия дополнены другими системами – следящими за активностью пользователей в интернете, использованием мобильных телефонов, пребыванием в отелях, поездками на общественном транспорте и на частных автомобилях.

Несмотря на предпринимаемые усилия, китайские амбиции пока намного превосходят китайские возможности. Станции и пешеходные переходы в одном городе могут быть оснащены соответствующей технологией – но их может не быть в другом. Бюрократическая неэффективность препятствует созданию общенациональной системы.

Для коммунистической партии Китая все это не имеет значения. Вместо того чтобы прятать, она демонстративно выпячивает и преувеличивает свои возможности. В Китае даже подозрение на существование слежки может поддерживать порядок.

В некоторых местах дела зашли куда дальше, чем в других. На западе страны развернуты системы массового наблюдения для слежки за мусульманами-уйгурами. Корреспондент The New York Times видел программу, цель которой – создавать карту отношений членов уйгурской общины с членами семей и друзьями.

Сотрудник Peterson Institute for International Economics Мартин Хорземпа говорит: “Это – потенциально совершенно новый управления экономикой и обществом. Цель – создание алгоритмического правительства”.

Переход через мост Чанлун в Сянган совсем недавно был настоящим кошмаром. Автомобили неслись не останавливаясь, а пешеходы перебегали через дорогу.

Затем прошлым летом полиция установила огромный экран-билборд, к которому были присоединены камеры и система распознавания лиц. На биллборде появлялись гигантские фото нарушителей, с указанием номеров удостоверений личности.

Новая китайская система надзора основана на старой идее: только сильная власть способна навести порядок в беспокойной стране. Мао Цзедун довел эту идею до логического конца, и его “вертикаль власти” оставила в наследие человечеству такие прелести, как культурную революцию, Большой Скачок и массовый голод.

Сегодня, после четырех десятилетий реформ и стремительного экономического роста Китай подошел к новому порогу.

Китайский историк Чжан Лифан говорит: “Реформы и открытость уже провалились – просто никто не решается заявить об этом вслух. Существующая система создала жесткую социальную и экономическую сегрегацию. И сегодня правители используют деньги налогоплательщиков для надзора за налогоплательщиками”.

Президент Си Цзиньпин занят глобальной модернизацией полицейского государства. Китай превратился в крупнейший мировой рынок технологий наблюдения и безопасности. Специалисты предполагают, что к 2020 году в Китае установят 300 миллионов камер наружного наблюдения.

Аналитики компании IHS Markit предсказывают, что на долю Китая будет приходится три четверти мировых расходов на технологии распознавания лица и другие техники видеонаблюдения. В Китае уже начали появляться экспериментальные гаджеты – типа очков для распознавания лица.

Китайские стартапы часто требуют от своих работников, чтобы те пользовались их технологиями. В некоторых случаях дело доходит до абсурда. В Шанхае стены офисов компании Yitu утыканы камерами, наблюдающими за лицами. От рабочего стола к курилке и к выходу из офиса, маршруты передвижения работников отслеживаются и показываются на телевизионных экранах прерывистой голубой линией. Мониторы показывают их приходы и уходы – весь день, каждый день.

Китайские компании, удовлетворяя растущий спрос правительства, создают все новые и новые приложения в области распознавания лица и голоса. Yitu заняла первое место на международном соревновании фирм, специализирующихся на распознавании лица в США в 2017 году. Конкурс был организован Офисом Директора Национальной Разведки.

По масштабам работ и объему инвестиций в данной сфере Китай уже превратился в конкурента Силиконовой Долины. И правительство, и частные инвесторы без проблем снабжают стартапы деньгами.

В мае новая компания SenseTime, специализирующаяся на искусственном интеллекте сумела привлечь 620 миллионов долларов. Ее рыночная стоимость сегодня составляет 4,5 миллиарда долларов. В июне Yitu привлекла 200 миллионов. Ее конкурент, Megvii, привлек 460 миллионов – в том числе от структур, связанных с высшим руководством.

Частные компании видят гигантский потенциал стремительно растущего комплекса индустрии безопасности, объемы которого оцениваются в 80 миллиардов долларов в год.

Шен Синян, бывший аналитик Google, а сегодня – технический директор стартапа Eyecool говорит: “Искусственный интеллект все еще занимает очень незначительную долю этого рынка, большая часть оборудования безопасности, установленная на сегодняшний день не оснащена интеллектом”.

Шен говорит, что оборудование для слежки Eyecool установлено на 20 железнодорожных вокзалах, и с его помощью уже задержали более тысячи преступников. Система обрабатывает более 2 миллионов имиджей с лицами в день – и передает результаты в полицейскую базу данных Skynet.

Пропаганда активно готовит народ к технологиям слежки следующего поколения. В недавнем фильме “Потрясающий Китай” показана виртуальная карта, с помощью которой полиция может наблюдать за использованием бытовых электроприборов, идентифицировать аномалии и являться в квартиры с подозрительной активностью.

В случае Китая, технологии вовсе не обязательно нормально функционировать чтобы оказаться эффективной. Возьмите для примера, те же очки для распознавания лиц. Они были широко разрекламированы властями Чжэнчжоу – но работают только в случае, если мишень несколько секунд стоит неподвижно. Поэтому их используют, главным образом, для опознания пассажиров с поддельными документами.

База данных индивидуумов за которыми необходимо следить – подозреваемыми в терроризме, криминальными элементами, торговцами наркотиками и диссидентами по словам человека, работающего на правительство в проектах по слежке насчитывает 20-30 миллионов человек. Это – слишком большое количество людей для анализа с помощью современных технологий распознавания лица.

Система сегодня скорее является дигитальным лоскутным одеялом, нежели всевидящей технологической сетью. Многие дела до сих пор не дигитализованы, другие забиты в нестыкуемые электронные бланки распределения. Полиция только надеется на то, что такие системы когда-нибудь будут управляться искусственным интеллектом. На настоящий момент люди, а не компьютеры, просеивают имиджи и базы данных.

На том же билборде с нарушителями-пешеходами в Сянган фото появлялись через несколько недель, после того, как была сделана съемка. Только недавно власти смогли сократить этот разрыв до пяти-шести дней.

Несмотря на это, система работает. Количество нарушений на мосту резко сократилось. У жилищных комплексов, в которых было установлено оборудование распознавания лиц такие проблемы, как кража велосипедов, исчезли полностью.

Мистер Хоземпра комментирует: “Весь смысл в том, что люди просто не знают – следят за ними или нет”. Он описывает возникающую ситуацию как “паноптикум” – люди выполняют правила именно потому, что не знают, следят за ними или нет.

Заместитель начальника полиции станции Чжэнчжоу со счастливой улыбкой рассказывает, как это работает. Полиция замела контрабандиста героина. Во время допроса следователь нацепил очки и сказал ему, что то, что он скажет не имеет никакого значения – очки дадут полиции всю необходимую информацию. Контрабандист, из страха перед современными технологиями немедленно чистосердечно раскаялся и сознался в том, что проглотил 60 пакетиков с героином. Полицейский чин говорит: “Нам даже не нужно было прибегать к каким-либо техникам допроса. Он попросту сдался”.