Диктатура лайка

Китаист Леонид Ковачич о том, как управлять людьми при помощи рейтинга

Сергей Медведев: Я должен признаться, что очень часто вдохновением для моих эфиров служит сериал “Черное зеркало”. Одна из серий третьего сезона называется “Пике”: самолет падает, входит в пике. Там действие происходит в мире, где все люди получают оценки (это похоже на то, как вы получаете лайки, пятерки в соцсетях), и эти оценки приобретают юридическое значение. Люди в дополненной реальности могут видеть профиль друг друга и выставлять оценки за любой поступок. Вы оцениваете таксиста, таксист оценивает вас, прохожие оценивают вас за то, что вы улыбнулись, продавщицы — за то, что вы заплатили точно без сдачи, и так далее. И при этом каждый человек оценивается согласно своей усредненной оценке. Людям со статусом меньше трех может быть запрещен доступ в общественные места, двойки — это социопаты, единички — просто маньяки, а люди со статусом четыре с половиной и выше — это наиболее ценные члены общества.

Все это выглядело как научная фантастика до тех пор, пока неделю назад я не прочел на сайте Carnegie.ru статью журналиста, китаеведа Леонида Ковачича о том, что эта оруэлловская антиутопия о постоянной оценке людей уже, оказывается, претворена в жизнь и работает в Китае. И мы позвали в гости Леонида, чтобы разобраться с тем, так ли это все на самом деле и чем это нам грозит. Сразу скажите: то, что вы написали о китайской системе, это не шутка, не розыгрыш?

Леонид Ковачич: Как ни удивительно, это чистая правда. Когда я занимался подготовкой этой статьи, исследовал официальные документы, на меня самого периодически нападал ступор, я не верил своим глазам. Все, что описано в статье, — это не какие-то домыслы, спекуляции или предположения, это все основано на официальных документах Госсовета и других государственных структур Китая, которые имеются в открытом доступе.

Сергей Медведев: Тогда расскажите подробнее про эту систему. Как я понимаю, она называется “система социального кредита”.

Леонид Ковачич: Наверное, более точный по смыслу перевод — “система социального доверия”, хотя официально она называется “система социального кредита”. Над созданием этой системы думали давно, еще при прежнем руководстве Китая. Тогда речь шла о том, чтобы создать систему скоринганаподобие системы “Шуфа” в Германии.

Сергей Медведев: Это кредитный рейтинг гражданина.

Леонид Ковачич: Нужна была система оценки кредитных рейтингов гражданина в каком-то универсальном и сравнимом формате. Но с приходом к власти нового поколения руководителей, в частности, председателя КНР Си Цзиньпина, оказалось, что система все-таки предполагает присваивание рейтингов не только каким-то экономическим субъектам, не только компаниям, но и физическим лицам, всем гражданам КНР. То есть к 2020 году миллиард триста миллионов человек в Китае будут охвачены этой системой. Самое главное — речь идет не только об оценке их кредитоспособности, хотя и об этом тоже, безусловно, но в том числе и об оценке их морально-нравственного поведения…

Сергей Медведев: …которое будет выражаться в каком-то рейтинге, то есть у каждого человека будет рейтинг, который он будет носить с собой и либо увеличивать его, либо терять.

Леонид Ковачич: Совершенно верно. Пока система работает в 30 пилотных городах. Всем жителям города присваивается изначально 1000 баллов рейтинга — это достаточно хороший рейтинг. А дальше, в зависимости от их поведения, рейтинг либо возрастает, либо снижается. Самый интересный вопрос: что влияет на этот рейтинг? Получается, практически все, то есть человек находится под постоянным контролем. Заплатил ли он налоги, оплатил ли он штраф, его кредитная история, — все это влияет на его рейтинг.

Сергей Медведев: Улицу где-то не там перешел.

Леонид Ковачич: Или не убрал за своей собакой.

Сергей Медведев: А кто это увидел, что он не убрал за собакой?

Леонид Ковачич: Эту систему решили создавать наподобие системы, которая существовала в Китае очень давно, еще в 400-м году до нашей эры. Тогда великий китайский реформатор Шан Ян распорядился, чтобы все жители Китая разделились на группы из пяти-десяти семей и следили друг за другом. На дверях каждого дома была подушевая опись членов семьи, староста докладывал властям даже об отъезде или приезде людей.

Сергей Медведев: То есть это такая тотальная круговая порука, перекрестное наблюдение?

Леонид Ковачич: Да. Только там каждый блок состоит не из пяти-десяти, а из 400 семьей, и тоже назначены наблюдатели, которые следят за поведением граждан, собирают всякие фото, видеодоказательства социально неприемлемого или просто неправильного поведения, докладывают куда следует, и рейтинг, соответственно, падает. В современном мире это стало проще осуществить за счет системы больших данных, искусственного интеллекта и вообще новых технологий. Люди все время попадают в поле зрения камер видеонаблюдения, а в Китае их очень много, и с помощью этих камер при желании можно наблюдать за человеком практически круглосуточно, хоть на улице, хоть дома, хоть в офисе.

Сергей Медведев: Кроме того, конечно, существует цифровой след, который человек оставляет в соцсетях. Это уже тоже используют коллекторы, работодатели — постоянно мониторят.

Леонид Ковачич: В Китае информацию о человеке будут собирать, с одной стороны, различные муниципальные, правоохранительные, судебные, налоговые органы и прочие государственные структуры, а с другой стороны, технологические компании. Например, “Алибаба” и “Тенсент” — это две крупнейших технологических компании Китая. “Тенсенту” принадлежит китайский мессенджер, которым пользуются 500 миллионов человек, а “Алибаба” — это огромная площадка интернет-торговли, у которой тоже почти 500 миллионов клиентов внутри Китая.

Эти компании обладают огромной базой данных об активности человека в интернете, в социальных сетях. Например, в Китае в последние годы очень развиты мобильные платежи с помощью электронных кошельков, причем Китай — мировой лидер в этой области. Что интересно, власти Китая никак не препятствовали этому, хотя, казалось бы, любая инновация обычно в первую очередь подвергается каким-то ограничениям (можно вспомнить хотя бы китайский “Файрвол”), а тут — нет, наоборот, это всячески поощрялось. И теперь Китай — мировой лидер по объему мобильных платежей. Если задуматься, то можно предположить, что все это неспроста. На самом деле данные о человеке собираются, в том числе, с помощью мобильных приложений.

Сергей Медведев: Кому заплатил, зачем — это же лучший способ отследить…

Леонид Ковачич: Более того, по геолокации можно отследить, где он это сделал, можно понять, какой у него средний доход, какая потребительская корзина. Это очень ценная информация, и они ее собирают и открыто говорят о том, что делятся этой информацией с государственными структурами, то есть не держат ее в секрете.

Сергей Медведев: Кто тогда будет присваивать этот рейтинг, судить человека, распоряжаться им? Данные от налоговых органов, от полиции, от технологических компаний — это все будет сводиться на центральный оценочный сервер?

Леонид Ковачич: Будет объединенная всекитайская платформа кредитной информации — она уже, кстати, работает. Все данные будут поступать именно на эту платформу, где будут обрабатываться, видимо, с помощью технологий биг дата. Но конкретный алгоритм расчета результатов никому не известен, платформа держит это в секрете.

Сергей Медведев: Главное — что это будет значить для человека. Его не будут принимать в университет, если у него низкий рейтинг, не продадут билеты куда-то, не пустят в хорошую гостиницу?

Леонид Ковачич: Это тоже очень большой вопрос. В официальных документах четко не прописано, какие будут санкции. Сказано достаточно общо: тем, у кого высокий рейтинг, будут полагаться всевозможные льготы, зеленый свет во всех государственных и муниципальных учреждениях, они смогут без очереди попасть на прием к врачу, получить кредит до определенной суммы (до 200 тысяч юаней) без залога и поручителей, смогут в больнице брать инвалидную коляску, не оставляя за нее залог. Но документа, где четко прописан список благ и санкций, все равно нет.

Леонид Ковачич

Также сказано, что, например, по отношению к тем, кто обладает низкими рейтингами, будут применяться все возможные административные ограничения. Например, их не возьмут на государственную муниципальную службу, им запретят покупать авиабилеты, билеты на высокоскоростные поезда, запретят бронировать номера в дорогих гостиницах.

Можно сказать, что уже сейчас во многих частях Китая (я разговаривал со своими коллегами, которые давно там живут) действуют вот эти ограничения по части билетов на высокоскоростной транспорт. Я знаю реального бизнесмена, у которого образовалась кредитная задолженность, он ее вовремя не погасил, и в результате его рейтинг упал, и теперь ему не продают билеты на поезда, он вынужден передвигаться по Китаю исключительно на личном автомобиле и больше никаким транспортом воспользоваться не может. Осуществить это ограничение очень просто: внутренний китайский паспорт — это электронная карточка, в которой находится чип. Когда ты в любом месте предъявляешь эту карточку или покупаешь билет в кассе, то кассир может эту карточку приложить к специальному устройству, и у него на экране сразу высветится, что на тебя наложены такие ограничения. То есть обойти этот запрет очень сложно.

Сергей Медведев: Отчасти это напоминает то, как в России пограничник на границе смотрит, есть ли неоплаченные штрафы или налоговые платежи. Но здесь хотя бы речь идет о такой санкции, как запрет на выезд за рубеж, это частичное ограничение свободы передвижения.

Леонид Ковачич: В пилотных городах Китая эти рейтинги уже действуют по отношению к людям за разнообразные нарушения, которые иногда с натяжкой можно назвать нарушениями. Например, примерно год назад широко разошлось интервью технического директора подразделения компании “Алибаба”, которая как раз занимается системой рейтингов. По его словам, они оценивают то, что человек покупает. Если, например, он без конца покупает видеоигры, то его, вероятно, будут оценивать как неблагонадежного, а если он регулярно покупает подгузники, то, скорее всего, он ответственный родитель, и его рейтинг будет расти. Эта цитата облетела весь китайский интернет, и даже блогеры стали пытаться разработать какие-то стратегии для повышения своего кредитного рейтинга. Насколько успешными будут эти стратегии, покажет время.

Сергей Медведев: Это, собственно, такая система перекрестной слежки, доносительства, и ей уже две тысячи лет. С другой стороны, вы в своей статье пишете, что были конфуцианцы, писавшие, что наоборот, надо быть благодетельным, действовать личным примером, образовывать людей. В Китае этот спор по-прежнему не решен, или китайцы привыкли к тотальной слежке и спокойно идут в это цифровое стойло?

Леонид Ковачич: Формально в документах китайских властей заявляется, что пример подавать должна сама верховная власть в этой системе социального кредита и в морально-нравственных устоях. Поэтому здесь как раз, на мой взгляд, сочетается, с одной стороны, прием легистов о том, что нужна жесткая система контроля, а с другой стороны, конфуцианские идеи о том, что путем личного примера, добродетели и благородства нужно вдохновлять людей на соответствующее поведение.

Другой вопрос, как это получится в жизни: пока это неизвестно. На данный момент система социального кредита затрагивает лишь чиновников низового уровня. В качестве эксперимента партийная школа при провинции Сычуань запустила совместно с технологическим институтом программу “Умное красное облако”, которая будет собирать данные, отслеживать поведение чиновников низового уровня, присваивать им соответствующий рейтинг. Пока мы видим, что для некоторых чиновников эта система тестируется, возможно, она заработает. Главный вопрос: а кто будет следить за верховными лидерами, кто будет оценивать самого “Большого брата”?

Сергей Медведев: В России в наше время совершенно очевидный разнонаправленный тренд: с одной стороны, все большая слежка за простыми гражданами, с другой стороны, верховная власть все больше закрывается информационно, они уже вышли из реестров недвижимости, блогерам запрещено писать… В Китае тоже?

Леонид Ковачич: В Китае всегда, например, в интернете ограничивались так называемые чувствительные темы, касавшиеся в первую очередь руководства страны. Сейчас эта цензура в некотором смысле даже усиливается. С одной стороны, нынешний председатель КНР Си Цзиньпин активно борется с коррупцией. В новостях постоянно появляются сообщения о том, что тот или иной чиновник, в том числе, достаточно высокого ранга, исключен из партии, против него началось расследование, даются реальные сроки наказания.

Но, с другой стороны, цензура усиливается. Например, такой момент: в Китае сейчас запретили картинки Винни-Пуха и Тигры. Сейчас сообщество китаеведов как раз гадает, из каких соображений их запретили. Есть предположение: Си Цзиньпин встречался с бывшим президентом США Бараком Обамой, и есть фотография, которая разошлась по интернету, как они вдвоем идут по дорожке, и на эту фотографию делали фотожабы, что Винни-пух — это Си Цзиньпин, а Тигра — Барак Обама. Это достаточно безобидный юмор, тем не менее, не сразу, а только сейчас эту картинку запретили.

Сергей Медведев: Как в России — фотографию уточки.

Леонид Ковачич: Теперь, если в китайском поисковике вводишь слово “Винни-Пух” на китайских иероглифах, то тебе отвечают: извините, данный контент является чувствительным, поэтому он скрыт.

Сергей Медведев: Это такой типичный китайский феномен? Китай со своим особым подходом к человеческой индивидуальности, к ограничению личной свободы, к свободе выбора в сочетании с цифровыми технологиями, с тотальной слежкой… Именно в Китае эта система может быть наиболее полно применена? Это национальная особенность?

Леонид Ковачич: Никто не знает достоверно, насколько она будет успешна, это покажет время. А тому, почему она появилась в Китае, на мой взгляд, есть вполне логичное объяснение. Во-первых, это определенная ситуация в обществе. Сейчас нормой жизни в китайском обществе стало мошенничество, коррупция, воровство, причем на всех уровнях: на уровне малого, среднего, крупного бизнеса, на уровне чиновников. Си Цзиньпин прекрасно понимает, что нужно срочно брать общество под контроль, как-то его нормализовать, иначе под угрозой социальная стабильность и, в конечном счете, власть партии и его собственная. Кроме того, население с такой огромной численностью нужно как-то контролировать. Поэтому, мне кажется, Китай в итоге и пришел к тому, чтобы создать такую всеобъемлющую, всевидящую систему.

Сергей Медведев: Люди, конечно, никак не могут протестовать против этого, они могут только изобретать какие-то пути обхода системы, и, видимо, есть понимание, что сама система тоже будет коррумпированной. Я думаю, рейтинги можно будет покупать и редактировать за деньги.

Леонид Ковачич: Мне неизвестно, как обойти эту систему, а если бы было известно, я думаю, этот секрет можно было бы задорого продать. Дело в том, что китайскому обществу это подается как благо. Наличие рейтингов — это же не только угроза, это, в том числе, и какие-то возможности — льготного кредитования, льготных билетов, каких-то дополнительных благ. Местные СМИ преподносят это так, что в этом нет ничего плохого, вы просто живите, как полагается, по-человечески, как принято общественной моралью, и все у вас будет хорошо, будет только лучше. Я смотрел интервью с местными жителями, они все говорят: “Я не вижу в этом ничего плохого, чего бояться? Я и так старалась жить правильно, а сейчас буду стараться еще больше”.

Сергей Медведев: Как часто говорят: ну и что, что спецслужбы смотрят мессенджеры и переписку, я же не пишу ничего плохого, я весь открыт, прозрачен, пускай смотрят.

Леонид Ковачич: Да, риторика примерно такая.

Сергей Медведев: Как вы думаете, насколько это можно спроецировать на весь мир, на наиболее продвинутые в цифровом отношении страны, в том числе, на Россию?

Леонид Ковачич: Здесь достаточно сложно проводить какие-то параллели, потому что нет фактов о том, что, например, в России или в какой-то другой стране такая система реализуется. Был Сноуден, который рассказывал о том, как АНБ следит за гражданами своей страны, но, опять же, нет никаких официальных документов, официальных фактов. Пока это мне представляется чисто китайским экспериментом, и очень интересно, чем он закончится.

Сергей Медведев: Согласитесь, что элементы этой системы все равно, так или иначе, разбросаны по реальности: то, как вас оценивают кредитные организации, какой у вас кредитный рейтинг, какой у вас кредитный лимит, в зависимости от вашего возраста, числа детей и так далее, постоянное отслеживание в соцсетях того, когда человек принимает социально нежелательное действие…

Леонид Ковачич: Понятно, что инструменты, которыми пользуются сейчас китайцы, известны во всем мире. Тот же самый Фейсбук отслеживает нашу геолокацию, а потом предлагает контекстную рекламу. Это действует и у нас, и в других странах. Так что информация о всех нас доступна кому-то, вопрос в том, кому и как ее будут использовать.

Сергей Медведев: Вы не боитесь наступления цифровой диктатуры?

Леонид Ковачич: Честно сказать, это, на мой взгляд, объективная реальность, от которой скрыться можно только, переехав куда-то в лес, став отшельником. Но мы живем в XXI веке, пользуемся кредитными картами, мобильными телефонами, и избежать этого сложно. Это просто такая данность, которую нам всем волей-неволей придется принять.

Но пока я бы не стал проводить параллели между Китаем и другими странами. Пока мы наблюдаем то, что происходит в Китае. Я написал статью, опираясь на открытые источники и именно на факты. Это, конечно, очень удивительно и пугает, но, с другой стороны, интересно посмотреть, что из этого получится.

Сергей Медведев: Китай часто становится зоной этического эксперимента. Например, мы делаем эфиры по поводу трансплантации органов или генетической модификации, и мои собеседники всегда говорят: мы не знаем, что происходит в китайских лабораториях. Это потому, что в Китае применяются совершенно другие этические нормы в отношении свободы индивида, свободы выбора. Вот здесь, по-моему, произошло то же самое.

Леонид Ковачич: Китай обладает, например, самой большой в мире базой данных фотографий для распознавания лиц, потому что во всех странах, в том числе и в России, есть какие-то законодательные ограничения использования личных данных, а в Китае этого нет.

Сергей Медведев: С этой точки зрения Китай — порой пугающий цифровой фронтир. Если раньше говорили, что тот, кто владеет информацией, владеет миром, то сейчас можно сказать, что тот, кто владеет биг дата, владеет миром. И китайцы в этом отношении показывают нам пример.

Сергей Медведев