Западные демократии должны поднять стандарты, чтобы обеспечить возможность «демократического надзора», необходимого для защиты своего населения. Но сможет ли Запад предложить подходы на основе конкурентных преимуществ искусственного интеллекта, не пожертвовав либеральными ценностями?
Жертвами пандемии нового коронавируса стали десятки тысяч человек, она вызвала экономический коллапс, который привёл к распаду связей в большей части мира, перевернув жизнь людей и обесценив прогнозы. Одним из главных следствий эпидемии станет то, как она отразится на других глобальных сдвигах последних нескольких лет – в частности, на росте и распространении цифрового надзора на основе технологий искусственного интеллекта (ИИ).
Меры общественного здравоохранения всегда зависели от эпиднадзора, и это особенно проявилось в реакции правительств на коронавирус. После (безуспешного) подавления известий о вспышке болезни в Ухане Китай взял на вооружение собственный арсенал средств надзора для борьбы с пандемией. Эти методы варьировались от развёртывания сотен тысяч местных наблюдателей для регистрации перемещения и измерения температуры граждан до наблюдения за данными мобильных телефонов, железными дорогами и рейсами для отслеживания людей, которые ездили в пострадавшие регионы. Демократические страны Восточной Азии также задействовали расширенные полномочия эпиднадзора для борьбы с COVID-19, заболеванием, которое вызывает коронавирус. Для отслеживания перемещений отдельных лиц Южная Корея использовала записи камер видеонаблюдения и данные кредитных карт, а Тайвань интегрировал базы данных здравоохранения с другими, чтобы все тайваньские больницы, клиники и аптеки смогли получить информацию о путешествиях своих пациентов.
Дабы сдержать распространение вируса, западные либеральные демократии изучают китайский опыт борьбы с эпидемией и задаются вопросом, должны ли они адаптировать какие-то из «авторитарных» методов. В течение последнего десятилетия Китай строил авторитарное государство цифрового надзора, соперничая в этой области с США, чтобы на международной арене задавать глобальные стандарты и формировать свою сетевую инфраструктуру, экспортируя технологии 5G и системы распознавания лиц в оруэлловском стиле. Пересечение этих двух сдвигов – эпидемиологического и технологического – будет определять следующие несколько лет мировой истории.
Страны Восточной Азии продемонстрировали, что для борьбы с пандемией необходим усиленный режим наблюдения. Западные демократии должны поднять стандарты, чтобы обеспечить возможность «демократического надзора», необходимого для защиты своего населения. Но сможет ли Запад предложить подходы на основе конкурентных преимуществ искусственного интеллекта, не пожертвовав либеральными ценностями?
Одним из самых серьёзных долгосрочных последствий атак 11 сентября стало расширение надзора в Соединённых Штатах и других демократических странах как в государственном, так и в частном секторе, хотя тогда этого и не осознавали. Одним из наиболее важных воздействий COVID-19 станет изменение методов цифрового надзора во всём мире из-за потребности общественного здравоохранения в более тщательном контроле за населением.
Бдительный Джон Сноу
Борьба с эпидемиями требует понимания населением необходимости эпиднадзора для ограничения распространения болезней. Один из основателей эпидемиологии впервые применил метод наблюдения для борьбы с инфекционным заболеванием (всего в миле от Лондонской медицинской школы, где я учился). Это был доктор по имени Джон Сноу.
«Азиатская» холера впервые появилась в Соединённом Королевстве в 1831 году. Первая волна убила тысячи людей, вспышки случались и после этого случая в течение многих лет. Одна из них в 1853 г. отняла жизни более 10 тысяч британцев.
В августе и сентябре 1854 г. в лондонском районе Сохо произошла страшная вспышка болезни. За три дня на одной улице погибли 127 человек. Сноу жил поблизости, и его контакты с местными жителями позволяли ему следить за эпидемией. Он обошёл район, опросил семьи погибших. Результаты привели его к водяному насосу, который оказался источником заболевания. С помощью микроскопа он обнаружил в воде подозрительные «белые хлопьевидные частицы». Примерно через десять дней после начала эпидемии он убедил местные власти в качестве эксперимента снять ручку насоса. Случаи заболевания холерой в районе быстро прекратились. Сноу продолжал тщательно отслеживать случаи, собирать данные и убеждать власти и практикующих врачей в том, что между водой и распространением холеры существует связь.
Со времен Сноу в каждом дееспособном государстве созданы институты, которые призваны защищать здоровье населения. Современные методы и практика общественного здравоохранения спасли сотни миллионов жизней. И каждое поколение, начиная со Сноу, использовало всё более мощные инструменты наблюдения во имя общего блага.
В более широком смысле надзор был главной составляющей небывалого социального и экономического прогресса за последние два столетия. Например, Великобритании потребовалось создать новые инспекции для контроля исполнения законов о фабриках (ключевых достижений XIX века), которые защищали детей и взрослых работников. Вначале инспекции были очень маленькими – четыре человека должны были контролировать соблюдение ограничений на детский фабричный труд, но сам прецедент имел огромное значение. Новые полицейские силы, созданные властями, были основаны не на местных или зарубежных моделях тайной полиции, а в «соответствии с духом свободной страны». Британский пример также иллюстрирует, что расширяющиеся практики надзора не подрывают демократию: парламентская система Соединённого Королевства стала более демократичной, даже когда государство приняло на себя больше полномочий по наблюдению за подданными. Хорошо это или плохо, но история экономического и политического развития во многих демократиях неразрывно связана с расширением возможностей государства контролировать своих граждан.
Разумеется, не все виды государственного надзора являются безобидными. На протяжении всего ХХ века правительства якобы демократических стран использовали методы наблюдения, сопровождавшиеся вмешательством в частную жизнь. Например, прослушивание телефонных разговоров использовалось для слежки за политическими конкурентами и подавления инакомыслия. После терактов 11 сентября правительство США расширило свои полномочия. В частности, Агентство национальной безопасности получило возможность следить за гражданами без ордера. Кроме того, был запущен национальный проект «Всеобщее повышение информационной осведомлённости», целью которого было выявление потенциальных террористов с помощью анализа огромных объёмов данных. Переход к усиленному надзору спровоцировал эффект домино в частном секторе: Соединенные Штаты не приняли законы о защите конфиденциальности в коммерческой сфере, которые бы защищали данные отдельных лиц, что позволило таким компаниям, как Facebook и Google, создать бизнес-модель на основе получения прибыли от сбора личной информации пользователей.
COVID-19 и надзор
Как и атаки 11 сентября в США, пандемия коронавируса положила начало применению новых практик надзора во многих странах по всему миру. Все пострадавшие государства стремятся больше контролировать своих граждан. Сегодня каждое дееспособное государство выработало стратегию общественного здравоохранения для борьбы с COVID-19, цель которой – наблюдать за жителями и влиять на их поведение. Однако ни Соединённые Штаты, ни европейские страны не использовали распространённые методы усиленного надзора, которые применялись в Восточной Азии. Пока западный подход кажется гораздо менее успешным, чем стратегии восточноазиатских стран.
Рассмотрим стратегии пяти государств Восточной Азии – от демократических Южной Кореи и Тайваня до авторитарной Китайской народной республики, каждое из которых использовало определённые методы надзора.
Южная Корея пока успешно сдерживает распространение COVID-19, используя классический санитарно-медицинский контроль с применением широкомасштабного тестирования. Кроме того, она активно отслеживала потенциально заражённых с помощью считывания операций по кредитным картам, записей камер видеонаблюдения и сбора других данных. Местные власти публиковали личную информацию, вследствие чего отдельные лица могли быть публично идентифицированы. Людей принуждали к соблюдению режима самоизоляции с помощью приложения для смартфона, отслеживающего местоположение.
Тайвань удержал количество заболевших на низком уровне благодаря усиленному надзору за людьми, прибывающими в страну, и широкому распространению информации об этом. В феврале, например, правительство объявило, что больницы, клиники и аптеки по всей стране могут получить доступ к истории передвижения своих пациентов. Подобная интеграция баз данных государственного и частного сектора может оказаться проблемой в Великобритании, Соединённых Штатах или ЕС. И так же, как в Южной Корее, тайваньские власти используют мобильные приложения, чтобы принудить потенциально инфицированных лиц к соблюдению карантина.
Гонконг выдаёт всем новоприбывшим электронный браслет, который отслеживает нарушения карантина. Сингапур удерживает контроль над ситуацией, используя записи камер видеонаблюдения и следственные полномочия полиции: отказ сотрудничать с требованиями службы общественного здравоохранения является нарушением закона.
Огромные территории делают Китай самым значимым случаем. Пекин успешно остановил распространение коронавируса. Только из-за того, что пандемия возникла в Китае, не стоит умалять реального успеха китайской стратегии усиленного наблюдения. Система «сетевого управления» делит страну на крошечные участки и предписывает людям наблюдать за друг другом. Более миллиона местных наблюдателей регистрируют перемещения, измеряют температуру и обеспечивают соблюдение правил, касающихся деятельности жителей.
Одновременно Китай использует и цифровые инструменты. Государственные железнодорожные компании, авиаперевозчики и основные поставщики телекоммуникационных услуг требуют, чтобы при покупке SIM-карт или билетов клиенты предъявляли удостоверения личности, выданные правительством. Это позволяет осуществлять массовое и очень точное наблюдение за лицами, путешествовавшими через определённые регионы. Приложения для смартфонов с цветовой кодировкой помечают людей зелёным (могут свободно проходить через городские контрольно-пропускные пункты), оранжевым или красным (в зависимости от ограничений на передвижение). Власти Пекина использовали алгоритмы распознавания лиц, чтобы идентифицировать пассажиров, которые не надевают маску или носят её недолжным образом.
На пути к демократическому надзору
В то время как многие страны Восточной Азии смогли сдержать эпидемию, западные демократии, похоже, оказались застигнуты врасплох. Поскольку стратегии общественного здравоохранения зависят от санитарно-эпидемиологического надзора за местным населением, западные правительства столкнутся с огромным давлением в вопросах расширения эпидемиологического контроля для предотвращения будущих пандемий. Например, эпидемиологи ожидают в ближайшем будущем пандемию гриппа, которая может убить десятки миллионов человек.
В качестве чрезвычайной ситуации в области общественного здравоохранения пандемия коронавируса выявляет сильные стороны мощных инструментов санитарно-эпидемического надзора, используемых такими авторитарными государствами, как Китай. Либеральным демократиям необходимо найти способы использовать в своих интересах возможности наблюдения, основанного на технологиях искусственного интеллекта, и в то же время убедиться, что они не ущемляют права человека. И они должны успешно конкурировать с амбициозными проектами Китая по созданию системы, альтернативной либерально-демократическому устройству.
Китай экспортирует свою цифровую авторитарную модель с помощью таких инициатив, как «Цифровой Шёлковый путь» – технологическое измерение китайского инфраструктурного и инвестиционного проекта «Пояса и пути». Одна эта инициатива собрала более 17 млрд долларов займов и инвестиций, включая финансирование телекоммуникационных сетей, электронную торговлю, мобильные платёжные системы и проекты в сфере «больших данных» со всего мира. Пекин яростно конкурирует с демократическими государствами в направлении формирования цифрового будущего, например, соперничая в организациях, определяющих технологические стандарты, таких, как Международный союз электросвязи при ООН.
В конце концов, за последние два столетия США и Великобритания смогли укрепить демократические институты, одновременно увеличив возможности в области общественного надзора. В будущем либеральным демократиям следует понять, какие методы, применявшиеся в Восточной Азии для сдерживания COVID-19, стоит позаимствовать, а каких стоит избегать из-за применения усиленного надзора. В частности, западные страны должны взять пример с восточноазиатских государств в отношении скорости и масштаба реагирования.
В каждом крупном дееспособном демократическом государстве в обычное время работают тысячи «Джонов Сноу» – медицинских работников и средств, которыми они управляют для проведения анализов и отслеживания контактов. Демократии также должны сформировать резервный потенциал, чтобы быстро увеличить «мощности» до десятков или сотен тысяч «Джонов Сноу». Эти резервные силы наблюдения должны создаваться на демократической основе в соответствии с законодательством, и их следует интегрировать в государственные и локальные органы здравоохранения, такие, как Центры Соединённых Штатов Америки по борьбе с болезнями и их профилактике. Такая структура позволит отказаться от использования служб безопасности, полиции, вооружённых сил и усиленного массового надзора. Данные о здоровье населения должны быть гарантированно защищены, изолированы и дополняться систематически данными кредитных карт, систем видеонаблюдения и данными об иммиграции. Пример Тайваня продемонстрировал, что прозрачность государственного управления и активное гражданское общество играют важную роль в борьбе с пандемией. Частный сектор может помочь расширить резервные мощности для повышения производительности ИВЛ или медицинских тестов. Однако демократические страны должны удерживать технологические компании от сбора данных и направлять их усилия к созданию эффективных, прозрачных инструментов, которые будут активно защищать неприкосновенность частной жизни. «Резервная» армия «Джонов Сноу» должна способствовать укреплению общественного здравоохранения, а не накапливать личные данные для других целей.
После того, как эта модель будет опробована на внутреннем уровне, демократии должны попытаться экспортировать её в глобальном масштабе, пока мир будет восстанавливаться после пандемии. Демократическим странам следует удвоить усилия, чтобы гарантировать, что мировые стандарты – в области ИИ, цифровых объектов (автомобили, холодильники), и даже самого интернета – которые вырабатываются сейчас Международным союзом электросвязи и на других площадках, не будут содержать в своём дизайне авторитарных функций слежения. Аналогично, демократии должны сотрудничать со Всемирной организацией здравоохранения, академическим сообществом и другими структурами, чтобы убедиться, что международная дискуссия в области здравоохранения движима демократическими принципами. Демократическим странам следует признать, что, даже если усиленный надзор и помог Китаю сдержать распространение болезни, главной причиной вспышки были лицемерие авторитаризма и недостаток информации. Однако если либеральные демократии хотят успешно конкурировать на глобальном уровне с авторитарными режимами, такими, как Китай, одних нравоучений недостаточно – они также должны продемонстрировать успешность.
Перевод: Евгения Прокопчук.
