Какую роль человеческий фактор играет в концепции сдерживания? Насколько эффективно оружие массового уничтожения во время боевых действий? Почему во время Второй мировой войны такое оружие было у разных сторон, но не применялось массово? Можно ли научить искусственный интеллект морали при применении ядерных вооружений? Об этом Фёдору Лукьянову рассказал Игорь Истомин, и.о. заведующего кафедрой прикладного анализа международных проблем МГИМО МИД России, в интервью для программы «Международное обозрение».
Фёдор Лукьянов: Существует ли теория эскалации, которая учитывает не только потенциалы, но и психологию?
Игорь Истомин: Такая теория разрабатывалась очень активно ещё в 1960–1970-е гг. прежде всего в Соединённых Штатах, когда стало понятно, что Советский Союз догоняет по количеству ядерных ракет, ядерных возможностей. Соответственно, прежний подход, основанный на угрозе массированного удара в случае любых попыток усиления СССР, становился слишком рискованным, и начали разрабатываться более гибкие варианты действий с учётом того, что в ответ Советский Союз может нанести неприемлемый ущерб Соединённым Штатам.
Наверное, самый известный автор, который этим занимался, был американский футуролог Герман Кан. Он разработал чёткую многоуровневую лестницу эскалации с вербальными предупреждениями, предупредительными выстрелами (когда предполагается использовать ядерное оружие для ударов по каким-то не значимым объектам). Считалась, что эта теория будет помогать конкурировать с противником и одновременно снижать возможные негативные последствия – предотвратит крупномасштабную ядерную войну.
Когда в 1990-е гг. открылись советские архивы и стало понятно, какие представления были в том числе у советских военных, то выяснилось, что Генеральный штаб Вооружённых сил СССР совершенно не рассматривал такие игры с управляемой эскалацией и ограниченной войной. В доктринальных документах было чётко прописано: если будет столкновение с НАТО, то ядерное оружие будет применяться массированно с первого этапа конфликта. Естественно, это та ситуация, когда «для танго нужны двое»: если другая сторона руководствуется другой концепцией рациональности, если она ожидает, что всё будет совсем по-другому, то, конечно, вам очень сложно выстроить одну и ту же логику, применимую для всех.
На практике, как правило, политики склонны действовать поэтапно – это уже влияние политического уровня – не военных. Очень часто мы сталкиваемся с ситуацией «сползания» во всё бóльшую и бóльшую конфронтацию, когда политики надеются, что какого-то ограниченного количества средств будет достаточно для того, чтобы напугать оппонента, убедить противника отступить. Как правило, это оказывается не так. Отсюда и происходит феномен ползучей неуправляемой эскалации, с которым на протяжении истории сталкивались неоднократно.
Фёдор Лукьянов: Сталкивались на протяжении истории – имеется в виду с конвенциональным оружием?
Игорь Истомин: Если мы говорим о великих державах после Первой мировой войны, то с конвенциональным оружием. Если мы посмотрим на крупнейшую войну второй половины ХХ века, а это ирано-иракская война, то там использовалось химическое оружие. Динамика была именно такая: в начале Ирак применял химическое оружие в ограниченных масштабах и, скорее, с символическими целями, но постепенно он расширял использование оружия массового уничтожения (ОМУ). Логика здесь такая же.
Фёдор Лукьянов: А вот, кстати, военный эффект-то был какой у Ирака?
Игорь Истомин: Если пригласить военных, наверное, они будут долго спорить о том, насколько это влияло, но в целом Ираку удалось сдержать превосходящие по численности иранские войска. Волны наступающих были остановлены. Видимо, какой-то военный эффект у применения ОМУ имелся.
В целом, с учётом того, что у нас мало примеров реального применения боевого оружия массового уничтожения, остаётся вопрос относительно его практического влияния на конфликт. Тем более нужно понимать, что ядерное оружие сильно отличается от других видов оружия даже массового уничтожения.
Например, у нас есть большое количество примеров и опыт применения химического оружия в годы Первой мировой войны – там оно не сыграло сколько-нибудь решающей роли. Более того, многие ветераны того конфликта впоследствии не выделяли его на фоне других поражающих средств и всех ужасов, которые им пришлось пережить. Это была одна из военных инноваций, наряду с многими другими. По своим разрушающим воздействиям она, конечно, несравнима с тем, что есть сейчас.
Фёдор Лукьянов: При разработке разного рода стратегий какую природу имели сдерживающие факторы: этическую, моральную, просто чисто материальную (в смысле – допустим или нет масштаб разрушений)? Или всё это было вторично?
Игорь Истомин: Люди вообще – сложная субстанция, они сами не до конца и не всегда понимают, почему совершают те или иные действия. Поэтому какого-то единого фактора, который побуждает их не применять ОМУ, нет.
Безусловно, есть этический фактор. Известно, что в годы Второй мировой войны, по-моему, Рузвельт заявил, что «мы не те люди, которые будут применять ОМУ первым», хотя оно было. Вторая мировая война – это показательный период, когда оружие массового поражения было у разных сторон, но не применялось массово.
Фёдор Лукьянов: Имеется в виду химическое?
Игорь Истомин: Да, химическое. Ядерная бомба была впервые сброшена в конце Второй мировой войны, и США её применили без особых моральных ограничений. Сохранялась взаимная сдержанность в применении химического оружия, по крайней мере, в Европе. Оно тоже применялось, видимо, в нескольких инцидентах, но они не носили массового характера.
Бывают также сомнения в целесообразности: в какой степени это действительно будет иметь какой-то практический эффект.
Есть ещё один важный фактор, который влияет на политиков и лидеров, это стремление оставить козырь в рукаве. Боязнь, что если мы сейчас используем всё, что у нас есть, а конфронтация будет продолжаться, противник не будет уничтожен, тогда мы останемся без дополнительных средств воздействия. Эта боязнь лишиться сильного аргумента в запасе является очень важным сдерживающим фактором в конфликте. Она основана или на понимании того, что у противника есть какие-то варианты ответа, или на опасении, что доподлинно неизвестно, что у него есть, но у него может иметься контраргумент, поэтому и необходим вариант ответной эскалации. Военные всегда сохраняют резервы и бросают их в бой только в крайней ситуации.
Фёдор Лукьянов: Писали о том, что восприятие ядерного оружия менялось, и на первом этапе в 1950-е гг. американцы рассматривали его как ещё одно оружие, очень мощное, но оружие. Потом это перешло в категорию другого качества. А сейчас такое ощущение по дискуссии, которая ведётся и публично, и, видимо, не публично тоже, что мы как бы возвращаемся к первоначальному: ну да, страшное, сильное, но оружие. Или я ошибаюсь?
Игорь Истомин: Я думаю, что с самого начала у ядерного оружия был особый ореол. Это немножко передёргивание, когда говорят, что изначально его воспринимали, как просто ещё одну большую бомбу. Безусловно, в Соединённых Штатах, в условиях Корейской войны и даже после неё рассматривалась возможность реального его применения в том числе по территории Советского Союза. Где-то до середины 1950-х гг. эти планы прорабатывались активно и не в качестве гипотетического варианта, а как реальная перспектива. Причём нанесение первого ядерного удара по территории Советского Союза рассматривалось, именно как возможность нанести серьёзный ущерб для того, чтобы остановить подъём СССР.
В Соединённых Штатах в тот период были очень большие опасения по поводу затяжного противостояния с СССР. Считалось, что демократии плохо приспособлены к такому формату борьбы, и в случае долгого изматывающего противостояния это приведёт к исчезновению внутренних свобод, подрыву американских ценностей и так далее. У них было много опасений по поводу собственной долгосрочной устойчивости. В целом, мне кажется, это ключевой фактор эскалации.
Эскалация происходит не столько тогда, когда государство и политики видят возможность, что можно получить что-то, чего у нас нет, а когда они опасаются, что завтра будет хуже, чем сегодня. В этом смысле они всегда оправдывают свои действия тем, что это некая превентивность: давайте, мол, лучше используем имеющиеся средства сейчас, потому что потом риски и возможные издержки возрастут.
Тому, что эта логика превалирует, есть очень много подтверждений, начиная с Первой мировой войны. Что касается использования ядерного оружия, то да – в настоящее время интенсивность обсуждения этого вопроса возросла, в том числе в публичной плоскости. Но есть большие сомнения в популярных представления о том, что вероятность его применения снижалась в 1970–1980-е гг. после достижения паритета. В самих США в последние годы появляется много исторических публикаций, которые показывают, что отнюдь не исключались риски применения ядерного оружия и в рейгановские годы на втором этапе интенсивной холодной войны.
Поэтому, я думаю, мы немножко переоцениваем степень стабильности и надёжности взаимно гарантируемого уничтожения в эпоху зрелой биполярности. Всё время вероятность ядерной войны рассматривалась и была на подкорке.
Фёдор Лукьянов: У искусственного интеллекта ограничители будут меньше, больше или, если представить себе, что ему это дадут на откуп, вообще всё будет по-другому оцениваться?
Игорь Истомин: Дискуссия об искусственном интеллекте (ИИ) и особенно о морально-этическом компоненте развивается больше десяти лет – ещё до того, как стали его использовать, до того, как появилось вооружение, использующее компоненты ИИ. Сейчас такого рода вооружений всё больше и больше. Мы видим, что оно действительно применяется, по крайней мере, в конвенциональных вооружениях. Встал вопрос о том, насколько это этично, насколько это хорошо.
Вопрос этот, в свою очередь, восходит к дискуссиям 2000-х гг. относительно дронов. Тогда говорилось, что дроны – это некое аморальное оружие, потому что лётчик-пилот обычного самолёта подвергается опасности и, как следствие, ведёт себя более осторожно, он также видит жертв собственных бомбардировок. У того же, кто наносит удары из спокойного укрытия, а порой и находится на другом конце мира, меньше сдержек в отношении применения оружия. Он чувствует меньшую сопричастность.
Потом наследие этих дебатов было перенесено на дискуссию об искусственном интеллекте. Появилась популярная формула, что человек должен обладать значимым контролем над этим оружием. Но по-прежнему остаются очень размытыми критерии – что значит «значимый человеческий контроль» над ИИ? Неизвестно, где он заканчивается, где он начинается. Более того, искусственный интеллект всё больше используется для контроля того, что делают люди.
Параллельно появилась альтернативная точка зрения, неконвенциональная. Она исходит из того, что если мы посмотрим на историю, то увидим, что люди очень часто нерационально применяли насилие. Человек, который находится в состоянии стресса и психоза, который постоянно сталкивается с опасностью быть убитым, может применять насилие с гораздо меньшей избирательностью и ограничителями, исходя из страха, усталости, стресса. В свою очередь, машина не испытывает таких эмоций, и, если вы заложите в неё правильную программу, в том числе нормы международного гуманитарного права, то она будет действовать гораздо более рационально. Так что вполне, может быть, искусственный интеллект станет реже применять насилие и только против комбатантов.
Эти дискуссии всегда строились, исходя из одного базового предположения – что речь идёт о конвенциональных вооружениях, об оружии на поле боя. Сейчас появилась новость про якобы проведённый эксперимент с искусственным интеллектом, который сразу же применил ядерные вооружения в рамках отрабатываемого сценария конфликта.
Но тут тоже надо понимать, что на работу ИИ воздействуют те, кто его создал. Можно сравнить эту область с отношениями родителей и детей. Родители пытаются чему-то научить детей, пытаются сделать так, чтобы их дети были лучше, чем они. Но параллельно неосознанно они передают им свои собственные комплексы, страхи и закладывают в своих чад что-то, о чём они даже не задумываются.
Наверное, главная проблема с искусственным интеллектом, что мы, программируя его, решая какие-то конкретные задачи, неосознанно можем заложить туда те наши психозы, которые существуют и о которых мы даже не задумываемся.
