Тотальная идеальная е-тюрьма по-китайски

Главное в национальной китайской системе мониторинга и идентификации людей вовсе не в достижениях национальных технологий машинного обучения, а в национальной культуре

Видео ИИ-системы распознавания лиц в Пекине компании Megvii. Gilles Sabrie for The New York Times

В русском языке, паноптикум — это сборище чего-то невероятного и малоприятного.

В английском же The Panopticon — это проект «идеальной тюрьмы» (или обобщенно, — институционального здания и системы управления), разработанный английским философом и социальным теоретиком Джереми Бентамом в конце 18-го века.

Суть проекта в том, чтобы обеспечить централизованное наблюдение за всеми заключенными одним сторожем без того, чтобы заключенные знали, наблюдаются они в данный момент или нет.

Цель проекта Паноптикум — обеспечить для власти прозрачность социальной реальности, делая власть для общества невидимой.

На Западе проект Паноптикум оказался неосуществимым, хотя в ХХ веке, с подачи французского философа Мишеля Фуко, интерес к проекту весьма оживился (в своей работе «Дисциплина и наказание» Фуко использовал Паноптикум, чтобы проиллюстрировать склонность дисциплинарных обществ подчинять своих граждан).

А в Китае проект состоялся.

Почему так? 
В чем секрет и особенности тотальной идеальной е-тюрьмы по-китайски?

Об этом мой новый пост.

Очередь в мавзолей Мао Дзедуна и 11 камер наблюдения над этим участком очереди на стойке выше. Gilles Sabrie for The New York Times

Воскресная статья Пола Мозура «Внутри китайской антиутопической мечты: ИИ, стыд и множество видеокамер» — это первая (на моей памяти) публикация топового СМИ, хоть и робко, но подрывающая миф о могучей национальной китайской системе мониторинга и идентификации людей.

Этот миф столь активно культивируется техно-энтузиастами и журналистами, что практически все, от студентов до политиков, уже уверовали в тотальную повсеместность и неограниченные возможности китайской системы техно-контролируемого отслеживания (ТКО).

Мне, конечно, далеко до NYT, но про это мифотворчество о китайском ТКО я уже объяснял в своих постах.

И теперь, когда нас с Полом Мозуром уже двое, считаю важным объяснить в деталях, каковы корни и цели этого мифа.

Вот три ключевых соображения.

  1. Обнаруживать и отслеживать конкретного человека в реальном времени — мечта многих сильных техно-компаний, до реализации которой им пока очень-очень далеко.
  2. Не смотря на действительно огромные инвестиции Китая в системы ТКО (это десятки млрд долларов, 300 млн. камер к 2020 и весьма продвинутые алгоритмы, о построении какой-либо тотальной ТКО системы речь просто не идет.
  • Покрытие камерами ТКО остается чрезвычайно лоскутным,
  • Вычислительные мощности не в состоянии в реальном времени распознавать и контролировать перемещения до 30 млн. лиц, хранящихся в БД террористов, преступников, наркоторговцев и политических активистов, — не говоря уже о контроле новых потенциальных нарушителей.
  • Сейчас и в обозримом будущем основная работа по поиску делается по старинке руками, поскольку многое не оцифровано, форматы разные, системы не связанные, а бюрократические барьеры непреодолимые.

3. И самое главное. Цель правительства Китая вовсе не в том, чтобы доводить систему ТКО до совершенства.

Суть в том, что правительство Китая поняло, что у себя они смогут сделать то, что просто невозможно на Западе — реализовать проект Паноптикум. И ключ к этому — не технологии, а культура.

Настоящая цель — заставить граждан Китая стыдиться, что кто-то про них что-то увидит и тем самым общество узнает, что своим поведением или поступками он нарушает принятый порядок.

Этого китаец стыдится больше всего на свете, поскольку в его культурной матрице «конфуцианский порядок» (называемый «ли» — ритуал, правила, этикет) — самое ценное, что есть в обществе, и главный регулятор человеческой жизни.

Это в корне отличает Восток, с его «культурой вины» от Запада, с его «культурой стыда».

А в Китае чувство стыда «чи» (ключевое, например, в культуре Японии) еще более усугубляется, исторически трансформировавшись в необходимость строжайшего соблюдения правил и ритуала «ли».

Таким образом, цель ТКО — не сколько увидеть и доказать в онлайне ВИНУ 30 млн. хранящихся в БД преступников, сколько заставить все полтора млрд китайцев постоянно бояться СТЫДА за то, что станет известно об их нарушениях «ли» — постыдных и недостойных поступках.

«Все дело в том, что люди не знают, контролируются ли они в данный момент или нет. И эта неопределенность делает людей более послушными», — цитируется эксперт Института Петерсона в статье Пола Мозура.

Эксперт называет такой подход Паноптикум, подразумевая, что люди будут следовать правилам именно потому, что точно не знают, следят ли за ними или нет.

Экран щоу-рума компании Megvii в Пекине. Gilles Sabrie for The New York Times

В заключение лишь замечу.

  • «Выборочное ТКО» Китая, как и «выборочные посадки» в другой стране, — весьма эффективный подход. А выбор того или иного определяется лишь доминирующей культурной матрицей населения.
  • И только от неё, а не от технологических возможностей, зависит будет ли рано или поздно в стране реализован проект Паноптикум.

Материалы с дополнительной информацией для размышления

  1. Статья Пола Мозура «Внутри китайской антиутопической мечты: ИИ, стыд и множество видеокамер»
  2. Мой пост «Возможности Большого Брата сильно преувеличены»
  3. Статья Гардиан «Что означает паноптикум в эпоху цифрового наблюдения?»
  4. Лекция «Восток и Запад: этнокультурологическое сопоставление»
  5. Статья о «культуре вины» и «культуре стыда» из реферативного сборника культурно-компаративистских исследований
  6. Статья «Вина и стыд в повседневной жизни Китая»
  7. И для гурманов — смотрите в онлайне на тех, кто наблюдает паноптикум по-западному — скелет Джереми Бентама, украшенный его восковой головой, жилетом и курткой, сидящий в стеклянном футляре на деревянном стуле в университетском колледже Лондона. Это проект PanoptiCam UCL, где оснащенный веб-камерой труп автора Паноптикума записывает реакции смотрящих на него зрителей, транслируя это в онлайне.
Скелет Джереми Бентама, украшенный его восковой головой, жилетом и курткой. Фото The Guardian

Малоприятное, но полезное зрелище, заставляющее задуматься о том,

— как по-разному воплотилось наследие Бентама на Западе и Востоке,

— и какое из воплощений ближе нашему менталитету.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”