В статье «Интеграционный “план ГОЭЛРО” для XXI века», опубликованной на страницах журнала «Россия в глобальной политике» в 2021 г., мы обратились к трендам мировой цифровой трансформации и вопросу, как акторы евразийского пространства должны на них реагировать. Как сохранить и повысить конкурентоспособность и не допустить экономической дезинтеграции? С тех пор окружающее нас пространство приобрело новые характеристики.
Статья посвящена именно им, долгосрочным вызовам, максимально, насколько это возможно, в отрыве от веяний текущего времени. Иными словами: вне времени, хотя в пространстве.
То, что происходит вокруг цифровой трансформации практически во всех ведущих экономиках и интеграционных объединениях, можно описать, очень детально рассмотрев этот сложный и многообразный процесс. Однако в случае чрезмерной детализации мы рискуем потерять суть изменений. Поэтому статью мы выстроим вокруг вопроса, актуального практически для всего мирового пространства: что делать с искусственным интеллектом?
- Существует несколько подходов, которые можно разделить на:
- управление рисками через наднациональное регулирование (ЕС);
- создание прецедентного механизма управления и реагирования (США);
- государственный централизованный механизм управления процессом (Китай).
Модель и подход, которые, на наш взгляд, следует использовать в ЕАЭС, должны опираться на другой принцип: поддержка развития сектора с обеспечением совместимости национальных подходов.
Глобальное пространство цифровой трансформации
C самого начала использования и внедрения в практику термина «цифровая трансформация» ни одно её направление не имело такого острого значения для государства и его регуляторов, как искусственный интеллект. На то есть две причины: онтологическая и, что немаловажно, институциональная.
Про онтологическую написано много, и мы к ней ещё вернемся, суть её, в двух словах, понятна: активно развивается технология, способная в перспективе выстраивать собственное целеполагание, выходящее за рамки заданных человеком границ.
Но вторая причина – институциональная – не менее важна. За 30–40 лет активного развития информационных и цифровых технологий в мире появились акторы, определяющие движение отрасли. Это в первую очередь транснациональные корпорации, разделившие между собой специализации: криптография, цифровая торговля, маркетплейсы, работа с данными, аналитика, мессенджеры и социальные сети и прочее. Ещё несколько лет назад казалось, что всё новое будет создано Amazon, Meta, Cisco, Alphabet и т.д. Даже региональные конкуренты данных платформ именно что «замещали» то, что создавалось гигантами: будь то маркетплейсы или социальные сети. Замещение происходит либо созданием клонов, либо внедрением похожих специализаций – с учётом характеристик национального регулирования. Это касается всех стран, включая Китай, Россию или Индию.
Но кроме самого разделения отрасли на специализации и появления лидеров по конкретным направлениям, сформировалась модель взаимодействия транснациональных цифровых корпораций с регуляторами и политическими институтами разных государств. Даже в такой либеральной с точки зрения регулирования цифровой экономики стране, как Соединённые Штаты, основные игроки и акторы выстроили механизмы взаимодействия с государством. Постоянное участие в публичных слушаниях, получение государственных заказов, сотрудничество с правоохранительными органами даже без чёткого и тем более жёсткого регулирования определяли, что можно, а что нельзя.
Вот яркий пример. Компания Amazon, обладающая колоссальными массивами данных и аналитикой о потреблении, заявила о намерении заняться банковской сферой. Однако интенсивная дискуссия о рисках, с этим связанных, разгоревшаяся в 2016 г., привела к отказу ритейлера от таких планов. Беспрецедентные ресурсы данных по потреблению и поведению людей, которыми обладают цифровые гиганты, дают им преимущество не только в финансовой, но и в таких сферах, как прогнозирование, в том числе социально-экономическое и политическое. А это уже затрагивает сферу государства.
Решение основателя Amazon Джеффа Безоса, вопреки устоявшейся традиции, не публиковать в принадлежащей ему газете The Washington Post редакционную статью в поддержку того или иного кандидата на президентских выборах в США 2024 г. (газета ориентирована на Демпартию и её кандидата) вызвало шквал критики и привело к протестному уходу ряда журналистов. Однако уверенная победа Дональда Трампа, которая не прогнозировалась ни одной из ведущих социологических служб, наводит на мысль, что алгоритмы Amazon, работающие с данными 171 миллиона человек в США, рисовали иную картину исхода президентских выборов, нежели обычные опросы. Решение главы Amazon воздержаться от редакционной статьи диктовалось в первую очередь интересами бизнеса и его собственными. Оно, в отличие от решения не идти в сферу коммерческого банкинга, не затрагивало прерогатив институтов и регуляторов.
Готовность цифровых гигантов принимать во внимание интересы традиционных институтов вызвана не соображениями морали и патриотизма. Несмотря на транснациональный характер цифровых гигантов, они прочно привязаны к пространству и правилам, которые устанавливаются институтами на этом пространстве. Такого рода неписаные правила и их учёт – продукт институционального становления сферы цифровой экономики со своими сдержками и противовесами. Этот баланс ещё несколько лет назад казался долговечным, но за последние годы произошли колоссальные изменения, вызванные развитием именно искусственного интеллекта. Новый рывок, символом которого было создание чат-бота ChatGPT, а потом появление и других компаний данного профиля, был обеспечен не гигантами, которые, как считалось, отрасль поделили, а новыми акторами, большинство из которых можно назвать стартапами. Гиганты же, понимая, что начали упускать новое направление, бросились догонять, как, например, Meta (Lama) в США и Alibaba (Qwen) в Китае.
Это не просто реструктуризация отрасли и её институциональных основ, а острый управленческий вызов для государств. Последние стали понимать, что решать стратегические и даже тактические вопросы с помощью формальных и неформальных договорённостей с топ-10 лидерами цифровой отрасли уже нельзя. Данное осознание потребовало немедленного обращения к инструментам регулирования, в отношении которых у государства пока безусловная монополия. В результате страны и экономики, которые десятилетиями говорили о необходимости «свободы отрасли», за считанные месяцы разработали и приняли законы и указы, призванные дать властям возможность влияния. Яркий пример – Европейский союз и Соединённые Штаты.
13 марта 2024 г. Закон об искусственном интеллекте Евросоюза (The EU AI Act), пройдя все необходимые административные процедуры и политические согласования, одобрен подавляющим большинством европарламентариев. Важно: с момента разработки до принятия закона, дающего регуляторам право влиять на отрасль, прошло чуть более года. Процесс принятия ранее одобренных документов, важнейших для цифровой экономики ЕС, – «Стратегии о данных ЕС» и «Закона о цифровых рынках (услугах)» – занял от трёх до пяти лет. Программа “Digital Europe” писалась, согласовывалась и принималась на протяжении почти семи лет. Последние документы и программы касались устоявшихся отраслей цифровой экономики – оборота данных и торговли, снятия барьеров и признания документов, где все риски и угрозы уже были понятны и давно проанализированы. Новый же закон об искусственном интеллекте касается только формирующегося рынка и отрасли. И здесь – в сфере до конца ещё неизвестного – Евросоюз решил сразу получить доступ к регулированию.
Именно поэтому европейский закон в отличие от ранее принятых документов написан не для создания условий для развития отрасли, а управления рисками. Они распределены на четыре группы:
а) Недопустимые риски – биометрическая идентификация, разделение людей на категории, распознавание человеческих эмоций, система социального рейтинга (social scoring).
б) Высокие – ИИ, используемый для работы инфраструктуры, подрыв которой может привести к смерти или к увечьям.
в) Ограниченные – отсутствие прозрачности, люди должны знать, что они взаимодействуют с ИИ, и иметь доверие к взаимодействию. Должна быть проведена маркировка контента ИИ, чтобы не вводить человека в заблуждение, и т.д.
г) Минимальные – образовательные платформы или фильтры для спама, игры и т.д.
Хотя большая часть сектора ИИ подпадает именно под категорию минимального и ограниченного риска, многие аналитики считают, что в будущем значение обретут сферы из категории высокого риска: именно в инфраструктурных отраслях ИИ и будет производить основную часть новой добавленной стоимости. С этой точки зрения европейский риск-ориентированный подход создаст существенные барьеры для развития технологий и решений ИИ в Европе без учёта интересов институтов: национальных и наднациональных регуляторов.
Один важный фактор: регулирование ЕС по части ИИ во многом происходит в тех же условиях, в которых и было введено регулирование по данным и цифровым активам. А именно по ИИ, как и по данным и услугам, Евросоюз проигрывает конкурентам: Соединённым Штатам и Китаю. Первым – по причине присутствия там лучших экосистем роста сектора, второму – из-за наличия грамотной государственной стратегии поддержки отрасли.
В США, в отличие от многих стран, нет чёткого регулирования цифровой экономики и цифровых услуг. Более того, будучи одними из мировых лидеров по антитрастовому законодательству, они не имеют ни одного закона прямого действия, определяющего сферу цифровых услуг. Но примечательно, что даже Соединённые Штаты отреагировали на ИИ немедленным введением жёсткого квазирегулирования посредством исполнительного указа президента «О безопасном, защищённом и заслуживающем доверия искусственном интеллекте» (14110), изданном 30 октября 2023 года.
Основные новеллы указа достаточно «жёсткие», если сравнивать с американской практикой дерегулирования цифровой экономики, в которой наличествует достаточно высокий уровень свободы для лидеров рынка. Указ, среди прочего, требует, чтобы разработчики самых мощных систем искусственного интеллекта делились с правительством результатами испытаний на безопасность и другой важной информацией. Это достаточно новое явление для американского регулирования, ещё несколько лет назад оно казалось невозможным. Ни один из гигантов цифровой экономики ранее не сталкивался с необходимостью фактически делиться с государством результатами испытаний своих технологических разработок.
Кроме того, указ фиксирует требование разработки меморандума о национальной безопасности, определяющего дальнейшие действия в области искусственного интеллекта и его безопасности. Он должен быть подготовлен Советом национальной безопасности и руководителем аппарата Белого дома. Документ будет гарантировать, что военное и разведывательное сообщество станет безопасно, этически и эффективно использовать ИИ в своих миссиях, а также противодействовать его использованию противниками в военных целях.
Компетентные органы соответствующих секторов, уполномоченные указом, имеют право устанавливать более подробные предписывающие правила и обеспечивать их соблюдение. Свобода уполномоченных органов предполагает отсутствие «цементирования» управления рисками в единый правовой документ и правовой режим. По всей вероятности, централизованный подход к регулированию ИИ будет (по крайней мере) отсутствовать, учитывая число органов власти (их около десяти с подструктурами), призванных к действию указом. А это основа для постоянного изменения правового режима через судебные и исполнительные – в обоих случаях прецедентные – акты.
Указ составлен и подписан в течение считанных месяцев, а два ключевых законодательных акта, которые разрабатывались американскими конгрессменами (The American Innovation and Choice Online Act и Open App Markets Act) по части регулирования цифровой экономики, уже несколько лет как не принимаются Конгрессом ввиду отсутствия консенсуса и лоббизма транснациональных корпораций. Процесс непринятия данных законодательных актов и есть проявление институционального консенсуса между государством и цифровыми гигантами: лоббизм и постоянные слушания тормозят внедрение законов, оставляя транснациональным корпорациям свободу действий, но и заставляют их принимать во внимание интересы государства, что приводит к постоянным компромиссам.
Несмотря на разновекторность и различный характер актов Евросоюза и Соединённых Штатов, они имеют схожую природу. Отсутствуют институты и сложившиеся механизмы работы с новым технологическим рынком, а регуляторы получают возможность влиять на владельцев и разработчиков. К тому же оставляя за собой право постоянно изменять подход через оценку рисков, возникающих вследствие развития ИИ. Данная свобода действий регуляторов сохранится как минимум до тех пор, пока не будут разработаны чёткие стандарты ИИ и внедрены механизмы управления ими.
Особое место в мировой практике, конечно, занимает китайский опыт регулирования вопросов развития ИИ. КНР стала первой страной, стандартизировавшей процессы разработки и оказания услуг при помощи технологий генеративного ИИ («Положение о временных мерах по управлению услугами генеративного искусственного интеллекта» от 10 июля 2023 г.). Оперативность – характерная черта китайского подхода к регулированию ИИ. Основной регулятор – Управление киберпространства Китая. Помимо разработки данное управление может быстро скорректировать или вовсе отменить решения, оказавшиеся неэффективными, а также ввести исключения в законодательство при помощи подзаконных актов.
Среди прочего оперативность регулирования достигается благодаря секторальности разрабатываемых стандартов. Например, в ноябре 2022 г. отдельным указом сформулированы «Правила регулирования дипфейков», которые напрямую стандартизировали требования к предоставлению услуг глубокого синтеза. Отказ от универсальности позволяет быстро реагировать на новые технологические решения и вызовы, появляющиеся на глобальном и национальном уровне. Китайское правительство не отрицает необходимости фундаментально регулировать вопросы ИИ и активно работает над проектом всеобъемлющего закона в данной сфере, что говорит об отсутствии догматизма.
И, конечно, стоит сказать об активной международной повестке в рамках китайского дискурса о регулировании ИИ, ведь именно КНР в октябре 2023 г. предложила «Глобальную инициативу по управлению искусственным интеллектом», где призвала страны к техническому сотрудничеству и обмену информацией.
Важная особенность Китая: успешная борьба властей за сохранение кадров ИИ через создание разных социальных и экономических экосистем для их адаптации в национальном пространстве. MIT Technology Review в статье «Четыре вещи, которые вам нужно знать о кадровом резерве Китая в сфере ИИ»[1] пишет о беспрецедентных результатах данной работы: 28 процентов топ-специалистов по ИИ в мире сейчас живёт и работает в КНР, и 80 процентов из них не собираются уезжать. Данные показатели – рекордные для Китая, где на протяжении десятилетий, несмотря на стабильный экономический рост, наблюдался активный процесс «утечки мозгов» из традиционных сфер экономики и специализаций на Запад. Но по части цифровых компетенций и ИИ власти смогли достигнуть высоких показателей, потому что не просто ввели социальные гарантии и систему поддержки, но интегрировали отрасль в сферу образовательного и городского планирования, развития отдельных географических и культурных кластеров.
Важно, чтобы разработка стандартов ИИ и их введение в действие сделали пространство ЕАЭС привлекательным для новых кадров.
Можно сказать, что предстоящий период – годы борьбы именно за разработку и внедрение стандартов ИИ, и сталкиваться будут игроки нескольких уровней:
- государства и группы государств, стремящиеся оставить за собой управление и контроль за сферой;
- транснациональные корпорации, которые станут лоббировать принятие стандартов, обеспечивающих им максимальную свободу действий и ограничивающих свободы новых игроков; тут они будут бороться не только с государствами, но и друг с другом, стараясь сократить взаимные сравнительные преимущества;
- новые игроки, которые начнут бороться как против контроля со стороны государства или группы государств, так и с транснациональными корпорациями, старающимися через внедрение согласованных с ними стандартов сохранить и закрепить за собой монополию на новую сферу ИИ.
То, что в мире пока нет чёткого понимания и знания, как и куда двигаться по части стандартов, очевидно по тому, как внедряются инструменты контроля над сферой. Повторимся: пусть подходы Европы и США отчасти разные, но, по сути, об одном – стремлении управлять тем, всеобъемлющие последствия развития чего ещё не ясны.
Эта неясность и начало конкуренции между игроками с разными видениями очевидны даже на примере одной страны – США. В предвыборной «Платформе Республиканской партии-2024. Сделаем Америку снова великой!», с которой Дональд Трамп победил на выборах, есть прямая ссылка на президентский указ: «Мы отменим опасный указ, который препятствует инновациям в области ИИ и навязывает радикальные левые идеи развитию этой технологии. Вместо этого республиканцы поддерживают развитие ИИ, основанное на свободе слова и процветании человека». Предвыборное обещание – не отказ от регулирования и контроля, а новый виток согласования стандартов с учётом максимального интереса групп компаний. Подобные развороты во времени могут казаться полным переосмыслением отношения к ИИ, но это не так, таков результат внутренней борьбы основных игроков за место под солнцем в период, когда оно ещё полностью не взошло – не все места ещё заняты. Не отказ от регулирования, а трансформация самого инструмента в возможность разделения рынка труда, учитывая интересы лидеров рынка (не случайно инноваторы, подобные Илону Маску, занимали такое место в предвыборной кампании). Последний в марте 2024 г. предложил не просто регулировать ИИ, а запретить целую его часть – искусственный интеллект общего назначения (ИИО), который соответствует или превосходит когнитивные способности человека в широком спектре задач.
У феномена ИИ есть, как сказано, онтологическая сторона. До сих пор не определены рамки свободы, которые отрасль должна или может иметь. В большинстве случаев обсуждается этика. Но для лидеров рынка цифровой экономики такой дискурс становится возможностью получить инструменты влияния на формирующуюся отрасль, прикрываемую идеями морали, приватности, защищённости человеческого достоинства и т.д. Поэтому дискуссии продолжатся до тех пор, пока окончательно не сформируется пространство ИИ с конкретными законами и стандартами.
Но это не означает, что нет онтологических и морально-этических проблем. Развитие ИИО, о запрете которого говорят крупные игроки, касается именно этого: можно ли создавать то, что способно заменить когнитивную функцию человека и связанную с ней возможность принятия самостоятельных решений. Это нескончаемый спор, связанный с культурными и религиозными основами конкретных стран и обществ. Но мы склонны считать, что формирование морально-этических основ ИИ будет зависеть не от желаний государства и регулятора, а от нового пространства мира. Каким оно будет? C ведущей ролью одного государства (что уже кажется невозможным) или группы стран? Или многополярным с акцентом на разность подходов не только к регулированию, но и к основам организации общественной жизни? Двинется ли мир к новой глобальной повестке или новым трендом станет регионализация? Случится ли ренессанс традиционной этики или новая отодвинет в сторону старую?
Евразийский союз – откликаться на новую реальность
Утверждённые в 2017 г. президентами стран ЕАЭС «Основные направления реализации цифровой повестки Евразийского экономического союза до 2025 года» стали новой вехой в развитии цифровой трансформации Союза в условиях меняющегося технологического уклада. Цели реализации цифровой повестки ЕАЭС заключаются в поддержке цифровой трансформации экономик стран, актуализации сложившихся механизмов интеграционного взаимодействия, в обеспечении качественного и устойчивого экономического роста государств-членов, в том числе для ускоренного перехода экономик на новый технологический уровень формирования новых индустрий и рынков, развития трудовых ресурсов.
Цифровая повестка ЕАЭС охватывала все сферы социально-экономического развития, взаимодействия в организационном и инфраструктурном планах:
- цифровая трансформация отраслей и кросс-отраслевая трансформация;
- цифровая трансформация рынков товаров, услуг, капитала и рабочей силы;
- цифровая трансформация управления интеграционными процессами;
- развитие цифровой инфраструктуры и обеспечение защищённости цифровых процессов.
На наш взгляд, она была лучшей интеграционной практикой и отличалась от ограничивающего национальные инструменты регулирования подхода ЕС и фактического отсутствия общей повестки в АСЕАН или Меркосур. Но 2025 г., когда истечёт срок действующей повестки, значительно отличается от 2017-го – года утверждения её основных направлений. Здесь и пандемия с её последствиями, и обострение региональных и международных противоречий, и т.д. Но главное – новый рывок технологии ИИ, которая меняет устоявшиеся основы не только цифровой экономики, но и реагирования стран и интеграционных объединений на цифровую трансформацию.
Наше пространство должно откликнуться на новую реальность, потому что отсутствие реакции ведёт к ухудшению условий интеграции, а грядущая разработка и внедрение стандартов ИИ третьими странами со временем «растащит» евразийскую интеграцию в разные стороны.
Такая оценка может создать иллюзию, что мы предлагаем скопировать опыт других акторов и перейти к системе регулирования разного типа:
- жёсткого наднационального – как в ЕС,
- ориентированного на управление процессами и рамками – как в США,
- централизованного – как в Китае.
Однако ни один из данных подходов не годится для нашего пространства, где интеграция опирается на полноценный национальный суверенитет. Опыт реализации цифровой повестки Союза позволяет выдвинуть несколько тезисов, полезных для достижения целей и задач интеграции, в том числе обозначенных политическим руководством стран Союза.
Первое: начать активную дискуссию о потенциальном влиянии развития ИИ на интеграцию. С выявлением всех угроз и возможностей, которые отрасль может нести для Союза. Такая дискуссия даст толчок к «инвентаризации» национальных практик и интересов государственных и частных акторов. Инвентаризация должна происходить с включением в процесс наднациональных и национальных институтов, центров компетенций, лидеров рынка и стартапов, уже участвующих в процессе разделения рынка ИИ.
Второе: на основе полученных результатов определить общие цели и задачи развития ИИ, совместное достижение которых не затронет интересы отдельных стран, их суверенитет и позволит действовать сообща. ЕАЭС не может развивать ИИ путём введения ограничений и барьеров; достижение цели возможно через поддержку совместных проектов, отвечающих интересам компаний и стран всего Союза.
Третье: полностью вывести ИИ за политические скобки, так как политизация в мире достигла высокого уровня, и любой политический дискурс отрицательно скажется на экономическом Союзе.
Четвёртое, может быть, самое важное и трудное: выявить сферы интеграции и общих рынков, которые в случае внедрения разрозненных и отдельных стандартов ИИ могут перестать функционировать. Иначе говоря, сферы, отсутствие сообщающихся друг с другом стандартов в которых чревато дезинтеграцией.
Пятое: начать совместную работу по созданию национальных стандартов ИИ для дальнейшего обеспечения их совместимости. Не общих стандартов, а схожих, сообщающихся друг с другом. Это позволит Союзу обеспечить и национальные суверенитеты, и экосистему полноценного принятия друг друга для достижения целей и задач интеграции.
Шестое: успешный китайский опыт в сфере кадрового потенциала ИИ показывает, что преуспеть можно через системный подход, объединяющий не только социальные меры, но стратегическое планирование. В ЕАЭС и в государствах – членах Союза нужны экосистемы роста и развития ИИ, включающие географические, культурные, образовательные, производственные и социальные кластеры. Острейшая конкуренция за кадровый потенциал ИИ (более 80 процентов разделено между США и Китаем) заставляет работать и действовать быстро, стремясь удержать кадры, что осуществимо только через комплексные, а не разрозненные меры. Это касается как национального, так и наднационального уровня.
Времена изменились или меняются. Но мы пребываем в евразийском пространстве, которое остаётся одним и тем же, обретая разный облик. В том числе облик искусственного интеллекта, и вопрос в том, насколько грамотно и адекватно мы его воспримем.
Автор: Тигран Саркисян, заведующий базовой кафедрой евразийской экономической интеграции Института права и национальной безопасности РАНХиГС при Президенте Российской Федерации, председатель коллегии Евразийской экономической комиссии (2016–2020), председатель правительства Республики Армения (2008–2014)
[1] “Four things you need to know about China’s AI talent pool”. MIT Technology Review. URL: https://www.technologyreview.com/2024/03/27/1090182/ai-talent-global-china-us/ (дата обращения: 16.12.2024).
