Хотя «лицо» понимается и функционирует по-разному в разных контекстах, оно описывает явление, которое существует в каждом человеческом обществе. Его самый основной смысл касается публичного представления и восприятия себя. Кто-то, у кого есть лицо, обладает чем-то, имеющим положительную социальную ценность, которая возникает в результате социального одобрения статуса, действия или состояния человека; тот, кто теряет лицо, потерял социальную ценность в отношении своего статуса, поведения или состояния бытия. В дополнение к общественному восприятию «лицо» имеет и внутренний психологический аспект: оно фиксирует образ самого себя и оценку себя в отношении общих этических стандартов и социальных иерархий, ожиданий и норм.

Лицо особенно важно в обществах Восточной Азии, таких как Китай, и встречается в двух связанных формах. Первая и более популярная концепция, мианцзы, в первую очередь касается богатства, социального статуса, положения, власти и престижа; второй, лиан, касается морального характера и поведения. Человек может иметь мианци — например, статус, положение и т. д. — но не иметь соответствующего уровня лян — например, считаться морально плохим. Полное отсутствие лиан разрушает и в конечном итоге подрывает мианци , в то время как у человека с большим лианом будет значительное мианци .

В современном китайском обществе вопрос о лице принял новую и тревожную форму, которая глубоко затрагивает эти более традиционные концепции, вдохновленные конфуцианством. Быстро расширяющаяся сеть камер наблюдения в Китае все больше полагается на технологию распознавания лиц с помощью искусственного интеллекта для выполнения большей части своей основной задачи: отслеживать, записывать, контролировать и изменять поведение своих граждан. В рамках этой системы «лицо» действительно не имеет ничего общего с традиционными представлениями о моральном или социальном статусе, по крайней мере, с их идеальными формами; дело не в том, как человек относится к себе или как к нему относятся члены его сообщества. Вместо этого он должен быть объектом систематической государственной системы наблюдения, созданной Коммунистической партией Китая (КПК) и управляемой все более изощренным искусственным интеллектом.mianzi , lian и родственными идеями о добродетели, но я также отмечу непредвиденное следствие, которое новая массовая слежка влечет за собой для КПК, следствие, которое свидетельствует о более общей озабоченности этикой ИИ.

Мое главное утверждение состоит в том, что новая культура наблюдения в значительной степени устраняет не только озабоченность, но и возможность традиционных, вдохновленных конфуцианством представлений о лице и связанных с ними представлений о добродетели. Сосредоточив внимание на физическом лице для идентификации и оценивая граждан исключительно с точки зрения их предполагаемой пользы или вреда для государства, измеряемой с точки зрения системы социального кредита, новая культура наблюдения коренным образом меняет чувства и функции эти традиционные концепции, устраняющие как внутреннее, моральное измерение лица, так и его внешнее, социально обусловленное измерение. В самом прямом смысле это представляет собой окончательную и полную потерю лица.На Западе аналогичные вопросы обсуждаются с точки зрения права на неприкосновенность частной жизни и необходимости защиты личного пространства, общественной деятельности и институтов, и в этом рассуждении есть большая заслуга. Однако здесь я представляю независимый аргумент, который может дополнить подобные опасения, но вытекает из традиционных конфуцианских представлений о понимании и улучшении себя. Важно изучить и проанализировать эту точку зрения не только потому, что она предлагает альтернативный моральный взгляд на массовую слежку, но и потому, что она имеет большое значение для людей в этих культурах, особенно потому, что этот подход к добродетели часто используется теми, кто стремится защитить состояние наблюдения.

Такая попытка присвоения апеллирует к идее, что, поскольку «коллективистские» конфуцианцы считают, что каждый способен и должен стремиться стать нравственно благородным, почему они должны беспокоиться о слежке? Поскольку государство проводит эту политику, чтобы «поддерживать порядок» и устранять «подрывные элементы», включая, конечно же, «террористов», благонамеренные и «патриотичные» люди должны приветствовать и использовать государственное наблюдение под управлением ИИ в качестве протеза, способствующего совершенствование себя, или сюян, и тот, который предлагает новую и мощную технологию для улучшения как себя, так и общества.

Это, однако, искажает основные положения, цели и методы традиционного конфуцианства. Хотя конфуцианство включает в себя широкий спектр различных концепций человеческой природы и способов ее улучшения, все они разделяют основную идею о том, что мораль касается взглядов на человеческую природу и ее развитие, направленных на повышение благосостояния себя и общества путем производства людей гуманный и замечательный характер. Основная картина начинается с задачи улучшить себя и расширить сферу нашей нравственной заботы – от нас самих и наших ближайших родственников и друзей до соседей, общества и, в конечном счете, всего мира. Конечная цель состоит в том, чтобы перейти от отдельного человека ко «всему под небом» и принести всем мир, процветание и счастье.

Центральным аспектом этого процесса является потребность людей следить за собой в одиночестве, что, грубо говоря, является призывом бдительно осознавать свои мысли и чувства с прицелом на нравственное совершенствование. Но под безжалостным взглядом массовой слежки мы почти никогда не остаемся одни; мы лишены возможности встать на Путь, культивируя способность контролировать свои мысли и чувства и регулировать, упорядочивать, увеличивать и усиливать их в постоянном стремлении совершенствовать себя. В таких обстоятельствах основные конфуцианские моральные идеалы, такие как достижение «искренности», или чэн (誠), и надлежащее чувство стыда, или ци(恥), больше невозможны. Вместо того, чтобы заглянуть внутрь себя, чтобы понять, оценить и обработать свои мысли и чувства в постоянных усилиях по самосовершенствованию, я вынужден организовывать себя и свою жизнь вокруг цели угодить государству и его надсмотрщику ИИ. В таких условиях я теряю из виду то, во что я на самом деле верю о добре и добродетели, и мои независимые суждения о таких вещах теряют мотивационную силу. Наша личная ответственность за самих себя и наши коллективные усилия по пониманию, формированию и улучшению нашей общей социальной жизни передаются государству, в частности КПК, и делегируются алгоритму.

Помимо серьезного ущерба, который новая массовая слежка наносит традиционным представлениям о лицах, есть непредвиденные последствия для КПК, свидетельствующие об общей этической озабоченности по поводу автономных интеллектуальных машин. Партия энергично защищает свою программу массовой слежки, апеллируя к предполагаемым выгодам, которые она приносит обществу, которые обычно включают защиту от скрытых и непосредственных угроз терроризма, преступности, социальных волнений, упадка ценностей и подрыва общей социальной «гармонии». Как авангард пролетариата, партия берет на себя задачу определить, что лучше для общества в отношении этих и других благ, и разработать политику для их достижения.

Какими бы ни были достоинства таких аргументов, недавнее все более широкое использование ИИ для управления партийной массовой слежкой и связанной с ней системой социального кредита вводит механизм, который является новым для государственного механизма; теперь решения о том, что представляет угрозу для государства и что отвечает интересам общества, а также о том, как добиться оптимальных результатов, все больше и больше контролируются не членами партии, а автономными и разумными машинами, управляющими системой. Совершенно непонятно, почему кто-то может полагать, что эти машины будут продолжать выбирать и использовать ценности, цели и методы, которые совпадают с ценностями правящих членов КПК. Похоже, что нынешняя траектория не только исключает отдельных членов общества из процесса принятия решения о том, какой жизнью они хотят жить, но и делает партию и ее руководство излишними. Государство действительно может «отмереть», как предсказал в 1878 году немецкий философ Фридрих Энгельс, но не так и не с теми последствиями, которые он описал.