Сфера современных инноваций всегда где-то на стыке с пиаром и шоу-бизнесом: модно, стильно, молодёжно. Но что, если чьи-то изобретения будут использованы во вред человечеству? О том, влияют ли проблемы морали на технологическую сферу, Фёдор Лукьянов поговорил с Иваном Данилиным, заведующим Отделом науки и инноваций ИМЭМО имени Е.М. Примакова РАН, в интервью для передачи «Международное обозрение».
– Инноваторов сейчас вообще волнует этическая сторона деятельности? Она всё-таки сковывает творческий полёт – должна раздражать немного.
– Давайте классифицируем: что такое современная этика вообще и этика в науке и технологиях, тем более в инновациях. Есть традиционный блок – то, что называется личная или общественная этика, когда учёный говорит: «Это неправильно, не соответствует моим религиозным, общественным, международным, политическим, гуманистическим или любым другим соображениям». Назовём это «дилеммой Оппенгеймера» в честь замечательного фильма, который вызвал такие споры, или «дилеммой Холла» (человека более известного в этом контексте). Второй блок – это когда общество, в том числе не самая рациональная его часть, говорит, что, наверное, наука нас скоро убьёт или у всех рога вырастут, и как-то это не хорошо.
– «Интернет убивает ваших детей».
– Абсолютно. Сначала убивает, потом сразу же развращает, поэтому появляется регулирование. Например, то, которое возникло в США после исследований стволовых клеток в начале 2000-х гг., когда очень сильно ограничили эти исследования, потому что религиозные группы считали, что это неправильно.
И есть довольно большой блок, который сейчас неоправданно называется этикой (в чистом виде), хотя на мой взгляд, таковой не является. Это целый набор совершенно разных вещей в инновационной сфере, начиная от (никак не популяризируя, не пропагандируя) того, что у нас законом запрещено, ЛГБТ+ и гендерных вопросов, и заканчивая геополитикой. С формальной точки зрения это тоже этика. По факту этика, конечно, здесь есть, но скорее на индивидуальном уровне. В большей мере это новое измерение конкуренции. Когда у вас какой-то продукт на рынке, сначала вы конкурируете по цене, потом по качеству, по какой-то необычности, кастомизации, а потом, когда уже всё это закрыто, вы начинаете конкурировать в каких-то новых направлениях, в том числе в этике.
– То есть это примерно то же, что обвинить условно китайцев, что у них используется детский труд?
– Да, только на уровне коммерческого рынка. Когда наши недружественные страны говорят, что у китайцев что-то не так, это межстрановая конкуренция. Но есть и внутренняя конкуренция – между стартапами, по тому, насколько этичен или не этичен стартап. Причём это касается как конкретных разработок, так и организации деятельности. У меня один коллега, бывший наш соотечественник, работает в канадском стартапе. Он мне рассказывал, что у них одна из основных проблем – то, что у них очень мало в стартапе трансгендеров и тому подобных людей – это не этично, их могут в этом обвинить и перестать покупать их продукт. И они какое-то время назад срочно искали себе новых сотрудников для того, чтобы повысить так называемое diversity.
Поймите правильно, я никоим образом не иронизирую над проблемой diversity как таковой. Она действительно есть, и её надо решать (кстати говоря, в Советском Союзе тоже эту проблему решали, то есть она реально существует).
Есть и чисто международная конкуренция, как, например, этика искусственного интеллекта. С одной стороны, это существенная проблема. К примеру, помните, была шутка про Google. Один из их опытов с искусственным интеллектом оказался очень расистским, потому что ему дали неправильную выборку данных по лицам. Тогда была шутка, что самый честный американец – гугловский искусственный интеллект. Эта проблема имеет и технический, и регуляторный характер. Но когда мы выходим на более высокий рыночный уровень, на уровень международной конкуренции, этические кодексы, которые разрабатывает Европа, США (например, в рамках «Большой семёрки» были документы) и Китай, с другой стороны, превращаются фактически в нетарифные ограничения. Когда, грубо говоря, под этикой понимается способ не допустить конкурента на рынок. Хотя формально, повторюсь, по отдельности под каждым блоком этой дискуссии есть вполне реальные этические проблемы.
– Случай, который послужил нам поводом для обсуждения, эта история, якобы имевшая место со Starlink и Илоном Маском, возвращает, на самом деле, к более примитивным и базовым формам. Я имею в виду появление технологий, которые заведомо повышают смертоносность боевых действий. Есть ли сейчас терзания, подобные тем, что раньше были у физиков, которые поняли, что значит атомная энергия?
– Терзания есть, но они, как всегда, в основном реализуются в мирное время. Несколько лет назад Google, Amazon участвовали в конкурсе работ в интересах Пентагона по одному проекту, причём не то чтобы совсем военному. Инженеры Google стали в очень принципиальную позицию, и этот контракт сорвался, насколько я помню. Но по моему скромному мнению, проблема заключается в том, что всё это работает, пока не начинается более серьёзная история, когда всю эту этику начинают, грубо говоря, переламывать где-то по объективным, где-то по субъективным причинам. Люди же по-разному интерпретируют международные события. Они могут решить, что создавать, скажем, убийц-роботов, может быть, и не этично, но сейчас видите, какое зло идёт, ему надо противостоять, иначе оно победит и будет совсем не этично.
– Есть тенденция, к которой мы вроде бы не готовились. Было ощущение, что технологии, которые совершенствуются и уже находятся за гранью фантастики, всё и определяют. А то, что мы видим сейчас – боевые действия, которые проходят не только на Украине, – это же классика: это люди, это кровь, это почва. Одно другому не противоречит?
– Мне кажется, одно другое прекрасно дополняет. Немножко подсыплю академизма, с вашего позволения. Когда мы смотрим на какие-то реляции СМИ, истории про стартапы, консалтинговые работы, работы институтов развития, у нас ощущение, что будущее прошло, а мы уже на полных порах мчимся к сингулярности. Это так называемая дилемма Красной Королевы из Льюиса Кэрролла, помните? «В нашем мире нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать вдвое быстрее».
Проблема заключается в том, что в реальности инновационное развитие гораздо более прагматично. Если посмотреть на объективные экономические показатели (рост производительности труда, темпы прироста производительности труда, совокупная производительность факторов производства и прочие скучные вещи, никому абсолютно не интересные, кроме людей моей профессии), то никакой революции на протяжении последних двадцати-тридцати лет мы не видим. Есть даже обратные процессы. И существует масса гипотез, почему так происходит.
Мы долгое время принимали за чистую монету весь этот крик о том, что сейчас технологии всё определяют, мы уже практически в светлом будущем, если не там, то по дороге к нему, технологии всё разрулят и так далее. А сейчас, когда жизнь вернулась к более простым её формам – как мне кажется более известным людям, например, в Африке, в Латинской Америке …
– Мировому большинству, как сейчас говорят.
– Да. Оказалось, что многие вопросы, которые казались нам принципиально важными, не такие уж и важные. Мы вернулись к таким, может быть, кондовым немножечко, не политкорректным, но понятным категориям. Это никак не отменяет то, что технологии развиваются, что мы вместе как человечество идём (надеюсь) в какое-то светлое будущее. Но вы совершенно правы: по крайней мере, в некоторых областях та самая кровь, почва и всё остальное так же, как и банальная экономика, сохраняют своё значение. Просто сейчас это стало вновь виднее, потому что изменились внешние условия, которые перестали нам давать возможность заниматься всякой ерундой.
– Можно ли сказать, что в будущем технологического успеха добьётся тот, кто самым решительным образом сможет отринуть всякие моральные условности?
– Я надеюсь, что этика в конечном счёте в светлом будущем человечества победит. Мне кажется, что лучше всё-таки иметь морально оправданные решения. Но я думаю, что этот вопрос никогда сильно не волновал ни инноваторов, ни бизнесменов и никого другого. Знаете, прекрасную историю коллеги из нефтегазового сектора рассказывали, что в Европе в нефтеперерабатывающих заводах всё чисто, приезжаешь в Нигерию – и там всё, конечно, несколько попроще, хотя одна и та же компания. Казалось бы, при чём здесь этика?
Я думаю, как бы цинично это ни звучало, победителем станет тот, кто, всё-таки не оставляя вопросы эффективности развития, сохранит некий реальный баланс. Потому что этикой эффективность не перекроешь, если нет одного, то другое бессмысленно.
Баланс нужен по двум простым причинам. Я сейчас уберу в сторону военные инновации, я ими не занимаюсь и, надеюсь, никогда не буду. Что такое человеческое развитие и вообще мировое развитие? Это прежде всего люди. А люди хотят жить в относительно комфортных условиях, самореализоваться и так далее. Ничего более этичного, на мой взгляд, придумать невозможно. И если говорить о мировом развитии, то основная этическая задача – это всё-таки вернуться к человеку. Тот, кто это сделает более эффективно, создаст более успешные условия для своего развития. Туда приедут люди, туда приедут таланты и так далее.
А в том, что касается технической этики, у меня нет ощущения, что что-то радикально изменится в ближайшие двадцать лет. Возможно, и решать эту задачу стоит в более прагматичном ключе.
– Как в моём детстве говорили: «Всё во имя человека, для блага человека». КПСС нас учила и правильно делала.
– Учила – правильно, делала – не всегда. Но посыл правильный.
