Тотальная идеальная е-тюрьма по-китайски

Главное в национальной китайской системе мониторинга и идентификации людей вовсе не в достижениях национальных технологий машинного обучения, а в национальной культуре

Видео ИИ-системы распознавания лиц в Пекине компании Megvii. Gilles Sabrie for The New York Times

В русском языке, паноптикум — это сборище чего-то невероятного и малоприятного.

В английском же The Panopticon — это проект «идеальной тюрьмы» (или обобщенно, — институционального здания и системы управления), разработанный английским философом и социальным теоретиком Джереми Бентамом в конце 18-го века.

Суть проекта в том, чтобы обеспечить централизованное наблюдение за всеми заключенными одним сторожем без того, чтобы заключенные знали, наблюдаются они в данный момент или нет.

Цель проекта Паноптикум — обеспечить для власти прозрачность социальной реальности, делая власть для общества невидимой.

На Западе проект Паноптикум оказался неосуществимым, хотя в ХХ веке, с подачи французского философа Мишеля Фуко, интерес к проекту весьма оживился (в своей работе «Дисциплина и наказание» Фуко использовал Паноптикум, чтобы проиллюстрировать склонность дисциплинарных обществ подчинять своих граждан).

А в Китае проект состоялся.

Почему так?
В чем секрет и особенности тотальной идеальной е-тюрьмы по-китайски?

Об этом мой новый пост.

Очередь в мавзолей Мао Дзедуна и 11 камер наблюдения над этим участком очереди на стойке выше. Gilles Sabrie for The New York Times

Воскресная статья Пола Мозура «Внутри китайской антиутопической мечты: ИИ, стыд и множество видеокамер» — это первая (на моей памяти) публикация топового СМИ, хоть и робко, но подрывающая миф о могучей национальной китайской системе мониторинга и идентификации людей.

Этот миф столь активно культивируется техно-энтузиастами и журналистами, что практически все, от студентов до политиков, уже уверовали в тотальную повсеместность и неограниченные возможности китайской системы техно-контролируемого отслеживания (ТКО).

Мне, конечно, далеко до NYT, но про это мифотворчество о китайском ТКО я уже объяснял в своих постах.

И теперь, когда нас с Полом Мозуром уже двое, считаю важным объяснить в деталях, каковы корни и цели этого мифа.

Вот три ключевых соображения.

  1. Обнаруживать и отслеживать конкретного человека в реальном времени — мечта многих сильных техно-компаний, до реализации которой им пока очень-очень далеко.
  2. Не смотря на действительно огромные инвестиции Китая в системы ТКО (это десятки млрд долларов, 300 млн. камер к 2020 и весьма продвинутые алгоритмы, о построении какой-либо тотальной ТКО системы речь просто не идет.
  • Покрытие камерами ТКО остается чрезвычайно лоскутным,
  • Вычислительные мощности не в состоянии в реальном времени распознавать и контролировать перемещения до 30 млн. лиц, хранящихся в БД террористов, преступников, наркоторговцев и политических активистов, — не говоря уже о контроле новых потенциальных нарушителей.
  • Сейчас и в обозримом будущем основная работа по поиску делается по старинке руками, поскольку многое не оцифровано, форматы разные, системы не связанные, а бюрократические барьеры непреодолимые.

3. И самое главное. Цель правительства Китая вовсе не в том, чтобы доводить систему ТКО до совершенства.

Суть в том, что правительство Китая поняло, что у себя они смогут сделать то, что просто невозможно на Западе — реализовать проект Паноптикум. И ключ к этому — не технологии, а культура.

Настоящая цель — заставить граждан Китая стыдиться, что кто-то про них что-то увидит и тем самым общество узнает, что своим поведением или поступками он нарушает принятый порядок.

Этого китаец стыдится больше всего на свете, поскольку в его культурной матрице «конфуцианский порядок» (называемый «ли» — ритуал, правила, этикет) — самое ценное, что есть в обществе, и главный регулятор человеческой жизни.

Это в корне отличает Восток, с его «культурой вины» от Запада, с его «культурой стыда».

А в Китае чувство стыда «чи» (ключевое, например, в культуре Японии) еще более усугубляется, исторически трансформировавшись в необходимость строжайшего соблюдения правил и ритуала «ли».

Таким образом, цель ТКО — не сколько увидеть и доказать в онлайне ВИНУ 30 млн. хранящихся в БД преступников, сколько заставить все полтора млрд китайцев постоянно бояться СТЫДА за то, что станет известно об их нарушениях «ли» — постыдных и недостойных поступках.

«Все дело в том, что люди не знают, контролируются ли они в данный момент или нет. И эта неопределенность делает людей более послушными», — цитируется эксперт Института Петерсона в статье Пола Мозура.

Эксперт называет такой подход Паноптикум, подразумевая, что люди будут следовать правилам именно потому, что точно не знают, следят ли за ними или нет.

Экран щоу-рума компании Megvii в Пекине. Gilles Sabrie for The New York Times

В заключение лишь замечу.

  • «Выборочное ТКО» Китая, как и «выборочные посадки» в другой стране, — весьма эффективный подход. А выбор того или иного определяется лишь доминирующей культурной матрицей населения.
  • И только от неё, а не от технологических возможностей, зависит будет ли рано или поздно в стране реализован проект Паноптикум.

Материалы с дополнительной информацией для размышления

  1. Статья Пола Мозура «Внутри китайской антиутопической мечты: ИИ, стыд и множество видеокамер»
  2. Мой пост «Возможности Большого Брата сильно преувеличены»
  3. Статья Гардиан «Что означает паноптикум в эпоху цифрового наблюдения?»
  4. Лекция «Восток и Запад: этнокультурологическое сопоставление»
  5. Статья о «культуре вины» и «культуре стыда» из реферативного сборника культурно-компаративистских исследований
  6. Статья «Вина и стыд в повседневной жизни Китая»
  7. И для гурманов — смотрите в онлайне на тех, кто наблюдает паноптикум по-западному — скелет Джереми Бентама, украшенный его восковой головой, жилетом и курткой, сидящий в стеклянном футляре на деревянном стуле в университетском колледже Лондона. Это проект PanoptiCam UCL, где оснащенный веб-камерой труп автора Паноптикума записывает реакции смотрящих на него зрителей, транслируя это в онлайне.
Скелет Джереми Бентама, украшенный его восковой головой, жилетом и курткой. Фото The Guardian

Малоприятное, но полезное зрелище, заставляющее задуматься о том,

— как по-разному воплотилось наследие Бентама на Западе и Востоке,

— и какое из воплощений ближе нашему менталитету.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Сергей Карелов

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade