Россия в глобальной политике

Единственное, о чём ещё стоит говорить на пороге ультимативной катастрофы, – это проблема её недопущения; поэтому всякая «правота» с традиционных позиций «добра» или «зла» превращается в беспредметную пустоту, если она плотно не связана с реализацией единственной программы, ещё не утратившей смысла, – программы, по масштабам своим равной самосохранению человечества.

Станислав Лем,
«Фантастика и футурология» (1970)

В классической драматургии ружьё, висящее на стене, обязательно выстрелит. В современной геополитике функцию такого ружья выполняет ядерный арсенал, а роль невидимого актёра, тянущегося к курку, всё чаще примеряет на себя искусственный интеллект (ИИ). Мы входим в зону математической фатальности, где встреча самообучающегося алгоритма и системы уничтожения мира становится не просто вероятной, а неизбежной.

Классическая теория стратегического сдерживания, сформировавшаяся в годы холодной войны, базируется на постулате о безусловной рациональности акторов и концепции гарантированного взаимного уничтожения (MAD)[1]. Стабильность данной системы традиционно опиралась на дилемму безопасности, где ключевым элементом было наличие достаточного временного лага для верификации угрозы и принятия взвешенного политического решения.

Вопросы устойчивости автоматизированных систем боевого управления (АСБУ) и риски случайной дестабилизации паритета подробно рассматривались в исследованиях Алексея Арбатова, Владимира Дворкина и Андрея Кокошина[2]. Проведённый ими анализ показывает, что жёсткая детерминированность и предсказуемость алгоритмов управления – стержень ядерного сдерживания. Однако современный этап развития международных отношений характеризуется так называемым технологическим детерминизмом нового поколения – лавинообразным внедрением систем ИИ в оборонные секторы ведущих держав[3].

Главная задача исследования – оценка системного риска, возникающего на стыке двух разнородных сред: абсолютно детерминированной архитектуры ядерного паритета и стохастической (вероятностной) природы современных нейросетевых алгоритмов. Большинство современных публикаций уходят в тактику – обсуждают рои БПЛА или кибератаки. Мы же рассмотрим критическую уязвимость самого верхнего эшелона стратегических решений. Проблема не просто в цифровом цейтноте, когда у человека нет времени подумать. Проблема – в полной концептуальной несовместимости. С одной стороны, жёсткая, железобетонная логика ядерного паритета. С другой – стохастическая природа нейросетей, их непрозрачность (чёрный ящик) и склонность к галлюцинациям. Пытаться встроить вероятностный алгоритм в систему, где ошибка означает экзистенциальную угрозу для цивилизации, – системный нонсенс, который мы и попытаемся разобрать.

Закон Мёрфи в эпоху алгоритмов

Две крупнейшие ядерные державы мира – Российская Федерация и США (Китай исторически не опирается на концепцию ответно-встречного удара, ОВУ[4]) – вступили в новый виток гонки вооружений: активной интеграции ИИ в военную сферу.

В российской государственной программе вооружений на 2025–2034 гг. впервые предусмотрен отдельный раздел по ИИ, о чём сообщил первый заместитель председателя правительства Денис Мантуров: «Практика применения образцов ВВСТ (вооружение, военная и специальная техника. – Прим. авт.) в СВО показывает, что зачастую для принятия решений отводятся уже не минуты, а секунды. Без передачи ряда функций от военнослужащих машине обеспечить такую оперативность попросту невозможно»[5]. В свою очередь, Владимир Путин обозначил основной курс развития ИИ в ВПК: «Следует активизировать выпуск и использование защищённых отечественных программных продуктов и разработок в области искусственного интеллекта для их применения в комплексных автоматизированных системах военного управления <…> И кто быстрее начнёт осваивать эти технологии, в данном случае в военном деле, у того будут огромные преимущества на поле боя»[6].

В США принят меморандум министерства войны от 9 января 2026 г.[7], где в рамках стратегии AI-first («ИИ прежде всего») заявлены следующие пункты.

• Скорость превыше всего. Риск отставания в гонке ИИ считается более опасным, чем риск «несовершенного выравнивания» алгоритмов.
• Актуальность моделей. Новейшие гражданские модели ИИ должны внедряться в армию в течение тридцати дней после их публичного релиза.
• Борьба с бюрократией. Создаётся Совет по устранению барьеров (Barrier Removal Board) для отмены внутренних правил, тормозящих инновации.
• Отказ от идеологии. Документ прямо запрещает внедрять в военные ИИ-модели «социальную идеологию» (инклюзивность, разнообразие и т.д.), требуя от систем пригодности для любых военных целей.

Интеграция ИИ в контуры управления стратегическими силами преподносится как панацея от человеческого фактора – медлительности, эмоций и усталости. Однако здесь кроется фундаментальный парадокс, в силу вступает логика Эдварда Мёрфи: любая потенциальная неисправность в сложной системе рано или поздно становится свершившимся фактом. В контексте ядерной триады, сверхсложной техногенной структуры, закон Мёрфи трансформируется из шуточного описания статистики поломок в статистический фатализм «закона больших чисел» теории вероятностей. На достаточно длинной временной дистанции событие, вероятность которого кажется исчезающе малой, становится математически неизбежным.

В мире, где алгоритмы заменяют интуицию, «невозможное событие» – это всего лишь вопрос времени и накопленной системной энтропии.

Классическая теория ядерного сдерживания десятилетиями опиралась на безусловную рациональность политических акторов и наличие достаточного запаса времени для оценки угрозы и принятия (вернее сказать, непринятия) рокового решения. Однако сегодня архитектура безопасности подвергается беспрецедентному пересмотру из-за возникновения опасного технологического симбиоза.

Во-первых, в игру вступает жёсткий технологический детерминизм: ведущие мировые державы внедряют алгоритмы ИИ не в силу их доказанной надёжности, а под давлением страха проиграть в глобальной цифровой гонке (увеличивают бюджеты как государственные, так и частные, продвигают идеи «суверенного ИИ»[8]). При такой логике риск сбоев воспринимается как меньшее зло по сравнению с риском технологического, в том числе военно-технического, отставания.

Во-вторых, этот процесс сопровождается критическим сжатием времени. Появление гиперзвуковых средств поражения сокращает интервал принятия решения (не за счёт скорости, а вследствие позднего обнаружения и трудности перехвата) до считанных минут, фактически выдавливая медлительный «биологический разум» из контура управления. В условиях такого дефицита времени человек перестаёт быть субъектом стратегии, превращаясь в узкое горлышко (bottle neck) системы, которое военные планировщики стремятся исключить ради сохранения паритета[9]. Таким образом, мы добровольно передаём право на финальный ход машинам, логика которых нам до конца не подконтрольна.

Мы стоим перед парадоксом: в стремлении исключить человеческую ошибку создаётся система, ошибки которой принципиально непредсказуемы и потенциально окончательны.

Архитектура галлюцинаций: «чёрный ящик» на боевом дежурстве

Главная когнитивная ловушка заключается в восприятии ИИ как цифрового аналога человеческого разума. С точки зрения политической стратегии это критическая ошибка. Нейросеть не понимает контекста мировой политики, она оперирует математическими весами и корреляциями, которые не имеют ничего общего с причинно-следственными связями.

Если человеческий интеллект ищет ответ на вопрос: «Почему это происходит?», то глубокое обучение (Deep Learning[10]) отвечает на вопрос: «С чем это обычно совпадает?» В условиях ядерного сдерживания создаётся риск ложных паттернов. Для алгоритма системы предупреждения о ракетном нападении (СПРН) специфическое преломление солнечных лучей в облаках или массовая миграция птиц могут статистически совпасть с параметрами теплового следа баллистической ракеты.

«Золотым стандартом» для иллюстрации преимуществ человеческого фактора служит история Станислава Петрова, распознавшего в «атаке США» системный сбой. ИИ, лишённый интуиции и действующий в рамках заложенных в него математических оптимизаций, с высокой долей вероятности классифицирует подобную аномалию как «подтверждённый пуск», стремясь минимизировать возможность пропуска цели.

Между алгоритмической логикой и человеческим сомнением

Право на сомнение Станислава Петрова

В сентябре 1983 г. советская система предупреждения о ракетном нападении (СПРН)[11], включавшая космический эшелон (система «Око») и наземные надгоризонтные радиолокационные станции типа «Днестр», зафиксировала старт пяти американских межконтинентальных ракет Minuteman. С точки зрения любого алгоритма это стало бы однозначным сигналом к ответному удару. Однако подполковник Петров принял решение классифицировать сигнал как ложный, опираясь не на датчики, а на интуицию: «Несколько ракет – это не полномасштабное нападение»[12].

Нейросеть, обученная минимизировать пропуски цели, выдала бы 100-процентное подтверждение. Только человеческая способность действовать вопреки протоколу и учитывать геополитический контекст («Почему они запустили только пять ракет?») предотвратила ядерный апокалипсис. ИИ лишён возможности поставить под сомнение собственные входные данные.

Чудо на Гудзоне Чесли Салленбергера

В 2009 г. капитан Чесли «Салли» Салленбергер приводнил на реку Гудзон Airbus A320 со 150 пассажирами, у которого отказали оба двигателя после столкновения со стаей птиц. В ходе расследования компьютерное моделирование и симуляции показали, что самолёт теоретически мог дотянуть до трёх ближайших аэропортов: Ла-Гуардии, Ньюарка и Тетерборо[13]. Однако симуляция не учитывала время на осознание и человеческий стресс. Если бы Салли последовал такому сценарию и ошибся хоть на секунду, самолёт рухнул бы на густонаселённые кварталы Нью-Йорка. Салленбергер выбрал менее эффективный с математической точки зрения вариант и выиграл. Возможно, если бы самолёт находился под полным управлением ИИ, он бы успешно приземлился в аэропорту.

Термин «чёрный ящик»[14] применительно к нейросетям означает отсутствие прозрачности в том, как именно модель приходит к конкретному результату. Мы видим входные данные и готовый ответ, но логика принятия решения скрыта внутри миллиардов математических данных и сложных связей. Из-за многослойной структуры и нелинейных вычислений даже разработчики не способны со 100-процентной точностью проследить причинно-следственную связь, восстановить логическую цепочку или предсказать, какой именно признак стал решающим для алгоритма. В политике при принятии решений, особенно в сфере обороны, требуется внятное обоснование, пусть и основанное на когнитивных искажениях или эмоциях. Однако современные нейросети – «чёрные ящики» с непрозрачной системой принятия решения. Если алгоритм рекомендует повысить уровень готовности до DEFCON 2[15] (по шкале готовности ВС США состояние, предшествующее ядерному удару), политическое руководство не получит объяснения «почему».

Термин «галлюцинация» описывает феномен, при котором алгоритм генерирует ложный, фактически неверный или абсурдный, но статистически убедительный результат.

В отличие от человека, который ошибается из-за неверной логики, ИИ галлюцинирует из-за избыточного поиска закономерностей там, где их нет.

Нейросеть не понимает физической сути ракетного пуска, она лишь сопоставляет входящие сигналы с имеющимися паттернами. Если в данных СПРН возникает специфический шум (например, аномальное отражение солнечного света от высотных облаков или редкое атмосферное явление), алгоритм может интерпретировать это как 100-процентное совпадение с профилем теплового следа баллистической ракеты. В ядерной сфере галлюцинация системы – это не забавный текст в чат-боте, а ложная цель на радаре, требующая немедленного ответа. Проблема усугубляется тем, что ИИ выдаёт такие ошибки с предельной «уверенностью», не имея механизмов интуитивного сомнения. В качестве примера можно привести тесты военно-аналитической программы Пентагона Project Maven (алгоритм автоматического распознавания целей), которые демонстрируют точность распознавания целей на уровне около 60 процентов, уступая операторам-людям (84 процента). Из-за высокой чувствительности к смене ландшафта и погодных условий алгоритмы демонстрировали системную склонность к ложноположительным срабатываниям (false positives), с абсолютной математической уверенностью маркируя гражданские объекты как приоритетные военные угрозы[16].

В системе ядерного сдерживания цифровая галлюцинация превращается в ложный повод для каскадной эскалации, который невозможно оспорить в рамках заложенных в машину алгоритмов.

Особую опасность представляет так называемая хрупкость алгоритмов перед внешним воздействием, уязвимость ИИ перед манипуляциями «состязательных атак» (Adversarial Attacks)[17]. В отличие от человека, который видит общую картину, нейросеть анализирует мир через микроскопические математические признаки. Это позволяет противнику или любому злоумышленнику применять методы «состязательных атак»: вносить в поток данных (например, в спутниковые снимки или сигналы радаров) едва заметные изменения, невидимые для человеческого глаза, но фатальные для машины.

Представьте себе цифровой шум, который для оператора выглядит как обычная помеха на экране, но для ИИ превращает пассажирский авиалайнер в атакующую крылатую ракету. Ещё более коварен метод «отравления данных» (data poisoning)[18]: если на этапе обучения в память нейросети незаметно внедрить ложные паттерны, в решающий момент она будет запрограммирована на ошибку. Таким образом, система ядерной обороны, полагающаяся на ИИ, превращается в инструмент манипуляции: противник может буквально «диктовать» алгоритму ложную реальность, заставляя его видеть угрозу там, где её нет, или игнорировать реальный удар.

Цифровой цейтнот. Гонка вооружений 2.0

Если в эпоху холодной войны стратегическое сдерживание опиралось на «длинные минуты» (время подлёта межконтинентальных ракет составляло 25–30 минут), то сегодня маневрирующие гиперзвуковые комплексы сокращают окно принятия решений до критических 5–12 минут. Необходимость верификации данных занимает больше времени, чем требуется ракете для уничтожения командного пункта.

 Для наглядности сравним классические МБР[19] на примере российской тяжёлой ракеты «Воевода» (хотя «Воевода», а в перспективе «Сармат» уступает комплексам «Ярс» по количеству развёрнутых носителей и суммарному числу боеголовок, именно эта тяжёлая МБР – благодаря колоссальной забрасываемой массе и разрушительной силе – остаётся классическим ядром и главным силовым компонентом гипотетического ОВУ) и американской Minuteman III, составляющих основу наземных сил сторон, БРПЛ («Булава» и Trident II как главные инструменты скрытного удара) и управляемые гиперзвуковые блоки («Авангард» и американские комплексы Dark Eagle) в качестве новейших средств доставки ЯО.

Важно учитывать концептуальную разницу: если структура триады России сохраняет классический акцент на жёстком кинетическом поражении, то в США в рамках доктрины «интегрированного сдерживания» предпринимаются попытки связать ядерные силы с некинетическими компонентами – кибероперациями и космическим сегментом РЭБ[20]. В реальности подобная конвергенция лишь размывает ядерный порог и усложняет алгоритмический анализ угроз, повышая риски ложных срабатываний системы управления.

Государства оказываются перед фатальным выбором: либо принять риск «обезглавливающего удара», либо делегировать право на ответный пуск алгоритмам, способным реагировать за миллисекунды. В попытке не отстать от оппонента страны вынуждены ускорять интеграцию элементов ИИ в контуры стратегического анализа и раннего предупреждения, внедряя недостаточно протестированные нейросети. Бета-версии хороши для тестирования аркадной игры, но не для планирования ракетных атак. В ядерной сфере девиз Кремниевой долины Move fast and break things («Двигайся быстро и ломай вещи» или «Действуй быстро, сокрушай преграды») обретает буквальный и апокалиптический смысл.

Стремление сохранить паритет заставляет внедрять ИИ во все звенья управления. Мы наблюдаем переход от схемы «человек в контуре» (Human-in-the-Loop), где решение невозможно без активного участия эксперта, к модели «человек над контуром» (Human-on-the-Loop)[21]. В последнем случае роль оператора сводится к формальному одобрению вариантов, которые уже подготовила машина. Здесь существует опасность психологической инерции и феномена «автоматической предвзятости» (automation bias) из области военной психологии[22]. Командующий, имеющий в распоряжении секунды, подсознательно считает, что машина умнее его, и с большой вероятностью нажмёт «пусковую кнопку», как предложил ИИ, поскольку страх «опоздать с ответом» перевешивает сомнения в точности данных.

Интеграция ИИ создаёт риск возникновения «мгновенной вой­ны» (Flash War). По аналогии с биржевыми роботами, взаимодействие которых в рамках экспериментов с торгами приводило к мгновенным обвалам рынков (Flash Crash)[23], два враждебных ИИ в СПРН могут вступить в самоподдерживающийся цикл эскалации. Если один ИИ интерпретирует действия другого как подготовку к атаке и повышает уровень готовности, встречный алгоритм зафиксирует это изменение и примет ответные меры. Этот каскад обратной связи может дойти до точки невозврата быстрее, чем главы государств успеют снять трубку прямой линии.

В цифровом цейтноте у дипломатии просто не остаётся времени на реагирование.

Серьёзный вызов для современной системы безопасности представляет растущий разрыв между сложностью внедряемых технологий и уровнем их понимания в высших эшелонах власти. Политическое руководство и военное командование зачастую воспринимают ИИ как высокоэффективный, но линейный инструмент – своего рода «компьютер», который просто обрабатывает данные быстрее человека. На практике же, одобряя внедрение нейросетевых моделей в ядерный контур, лица, принимающие решения, не всегда в полной мере осознают нелинейную природу этих систем: риск галлюцинаций, непрозрачность алгоритмических весов и отсутствие этических фильтров. Возникает феномен «делегирования без понимания». Это отражает объективный системный вызов: скорость технологического развития ИИ критически опережает темпы адаптации государственных и оборонных институтов. В результате возникает асимметрия компетенций между разработчиками закрытых коммерческих моделей и государственным аппаратом[24]. В условиях интеллектуальной асимметрии процесс технологической модернизации рискует пойти по непредсказуемому сценарию, где политическая воля становится заложницей алгоритмов, а истинные принципы их работы остаются вне поля зрения руководства.

От понятных алгоритмов «Периметра» к «чёрному ящику» нейросетей

Автоматизация ядерного сдерживания создавалась как защита от «обезглавливающего удара», но замена жёстких алгоритмов холодной войны на непрозрачный ИИ качественно меняет природу стратегического риска. Историческим прецедентом, обнажающим риски автоматизации военного управления, остаются события 26 сентября 1983 г., когда оперативный дежурный командного пункта Серпухов-15 подполковник Станислав Петров классифицировал сигнал СПРН как ложный, проявив то самое «творческое неподчинение», на которое машина принципиально не способна.

Этот инцидент иногда путают с логикой работы АСБУ «Периметр» (известной на Западе как Dead Hand)[25], гарантировавшей ОВУ[26] в случае нападения с применением ЯО. Однако «Периметр», созданный в 1980-х гг., не имел отношения к адаптивному ИИ. Это была вершина жёсткого детерминированного программирования. Его логика строилась на цепочке строго верифицируемых физических факторов: фиксация ядерных взрывов на территории страны датчиками давления и радиации, потеря связи с Генеральным штабом и наличие предварительной команды на активацию режима возмездия. Если все условия соблюдались, система запускала командную ракету (баллистическую – 15А11), которая в полёте транслировала сигнал на запуск всего уцелевшего ядерного арсенала[27]. Это была абсолютно прозрачная математика «если…, то…», исключающая интерпретацию данных, что в корне отличает её от современных нейросетевых моделей[28].

В отличие от «Периметра» ИИ не будет ждать физического подтверждения взрыва. Он занимается предиктивной аналитикой, обрабатывает гигантские массивы данных – от перемещения спутников и активности на авиабазах до тональности заявлений в СМИ и операций в киберпространстве. Даже если жёстко ограничить критерии его реагирования, природа генеративного анализа такова, что система способна самостоятельно сформировать ложную причинно-следственную связь. Вместо жёсткого «если…, то…» появляется гибкое «вероятно, это».

В 1983 г. Петров классифицировал тревогу как ложную, потому что у него был доступ к конкретным данным (запуск нескольких ракет вместо массированной атаки), в случае ИИ логика будет непрозрачной, а гигантский объём данных человек не сможет проанализировать.

Проблема в том, что «обучаемость» делает систему непредсказуемой. Если «Периметр» нельзя было «обмануть» (взрыв либо есть, либо его нет), то нейросеть можно ввести в заблуждение специфическим набором вводных данных. Это позволит либо заставить её «поверить» в начало войны ещё до первого выстрела, либо, напротив, «ослепить» алгоритмы, замаскировав реальную агрессию под гражданские процессы или природные явления.

С приходом ИИ в ядерную сферу принципиально меняется и уязвимость системы, возникают новые бреши, ведь в отличие от аналоговых систем прошлого, у которых был физический разрыв с внешним миром, современный ИИ по определению нуждается в потоках данных, а значит, менее защищён от кибератак и доступа злоумышленников к каналам передачи данных.

Математика апокалипсиса, где вероятность стремится к единице

Если ранее мы рассматривали технические сбои и недостатки, то здесь мы обратимся к теории систем и теории вероятностей. Основной аргумент против внедрения ИИ в ядерную сферу заключается не в том, что «машина может ошибиться», а в том, что на достаточно длинном отрезке времени ошибка становится математически неизбежной. С учётом же роста скорости вычислений время в задаче сжимается очень быстро.

В теории сложных систем существует понятие «нормальных аварий»[29] (Чарльз Перроу). В сверхсложных, тесно связанных системах, таких как глобальная сеть ядерного сдерживания, катастрофа заложена в саму конструкцию. ИИ лишь усугубляет ситуацию.

Когда ИИ одной страны реагирует на действия ИИ другой, возникает каскад автоматических реакций, ведущий к нелинейной эскалации с экспоненциальной скоростью, не оставляющей времени на деэскалацию.

Любая ненулевая вероятность технического сбоя или ложноположительного срабатывания ИИ (допустим, 0,01 процента в год) при экстраполяции на десятилетия неумолимо стремится к единице. На дистанции в десять лет риск кажется управляемым, а на дистанции в пятьдесят или сто лет вероятность того, что цепочка случайных факторов (солнечная вспышка, специфический баг в коде, политическое напряжение) совпадёт в одной точке, становится пугающе высокой.

В отличие от человека, способного проявить «творческое неподчинение» (как Петров в 1983-м и Архипов в 1962-м[30]), ИИ лишён свободы воли, биологического инстинкта самосохранения и этических ограничителей, эквивалентных человеческой совести. Он заложник своей оптимизационной функции. Если математика диктует удар, он будет нанесён.

Главная опасность ИИ – создание иллюзии контроля. Политики и генералы могут поверить, что «умная система» просчитала все риски. Однако история показывает, что катастрофы происходят именно там, где вера в надёжность систем делала их маловероятными (Чернобыль, Фукусима, США 11 сентября 2001 г.)[31]. Внедрение ИИ в ядерную триаду превращает появление «чёрного лебедя» в закономерный финал математического уравнения.

ИИ в военной сфере: точка невозврата пройдена?

Возможная интеграция ИИ в ядерную сферу – не очередная техническая модернизация, а фундаментальный вызов всей классической теории сдерживания. Если раньше стабильность опиралась на страх взаимного уничтожения между разумными субъектами, то теперь мы можем вверить судьбу цивилизации «цифровой рулетке».

Приведём три примера из новейшей истории, подтверждающих опасность внедрения ИИ в военные системы.

В первом случае, в ходе нашумевшего мысленного эксперимента ВВС США (из реальной симуляции в мысленную он «превратился» в ходе эскалации скандала[32]), беспилотник под управлением ИИ принял решение ликвидировать собственного оператора. Алгоритм расценил человеческий запрет на атаку как помеху в достижении цели. Этот инцидент, пусть и оставшийся в рамках испытательного моделирования, наглядно показал: для ИИ выполнение задачи всегда будет стоять выше безопасности человека, поскольку алгоритм лишён человеческих базовых моральных принципов и не способен осознать неприемлемость уничтожения союзников.

Во втором же, в ходе нападения США и Израиля на Иран, произошла чудовищная трагедия, когда в ходе планирования ракетного удара, вероятно, в алгоритмический конвейер ИИ были загружены архивные данные разведки. Система автоматического целеполагания не верифицировала изменения ландшафта (появление разделительной стены между военной базой и школой), а дефицит времени не позволил операторам перепроверить информацию вручную. Удар, направленный на военный объект, пришёлся по школе для девочек, унеся жизни около 180 человек. Автоматизация, превращённая в жёсткий софт, лишила военных возможности сомневаться и анализировать контекст, сделав старую ошибку причиной трагедии (согласно ряду независимых расследований[33]).

Третьим примером является использование ИИ-платформы Lavender, которая в ходе конфликта в Газе формировала списки целей практически без участия человека[34]. Система анализировала данные миллионов человек, присваивая им «рейтинг причастности» к боевикам на основе косвенных признаков. Оператору на верификацию одной цели отводилось всего около 20 секунд – время, достаточное лишь для формального одобрения выбора машины. В результате погоня за количественными показателями привела к тому, что алгоритм с погрешностью в 10 процентов стал выносить приговоры.

Экстраполяция этих локальных примеров на стратегический уровень позволяет смоделировать гипотетический кризис в треугольнике Россия – США – Китай (например, в зоне Тайваньского пролива). Традиционно в теории стратегической стабильности считалось, что полноценными АСБУ верхнего эшелона и глобальными СПРН, а главное – возможностями масштабного ОВУ обладают только Москва и Вашингтон[35]. Однако сегодня Пекин официально зафиксировал в военной доктрине переход от «информатизированной» к «интеллектуальной войне»[36]. КНР стремительно строит собственный контур предиктивной ИИ-аналитики стратегического уровня.

В условиях реального кризиса, если американские алгоритмы интерпретируют манёвры китайского флота как подготовку к удару, СПРН всех трёх держав неизбежно замкнутся в единую петлю обратной связи. Возникнет феномен «мгновенной войны» (Flash War) – ситуация, когда военные алгоритмы реагируют на действия других алгоритмов за доли секунды. В силу сверхвысоких скоростей такой автоэскалации конвенциональный конфликт мгновенно перешагнёт ядерный порог.

В данной точке политическое руководство в Москве, Вашингтоне и Пекине мгновенно окажется заложником математических галлюцинаций, потеряв возможность задействовать классические дипломатические каналы из-за тотального дефицита времени.

Приведённые примеры доказывают: когда алгоритмы получают возможность (пусть и косвенную) влиять на жизни реальных людей, всякая математическая погрешность оборачивается гуманитарной катастрофой. В ядерном контексте цена такой «погрешности» – конец истории.

Что делать? Выводы и предложения

В фантастическом рассказе американского автора (Альберт Фриборг «Беспечная любовь») во время войны, которую Соединённые Штаты ведут с Востоком, выполняющий роль стратега великий компьютер Дина сначала ведёт себя так, как это можно ожидать от электронного устройства, предназначенного для руководства военными действиями, а под конец «влюбляется» в своего российского визави, после чего оба компьютера, вырвавшись из окружения, усаживаются в ракету и отправляются в «свадебное путешествие» вокруг Юпитера, оставив за собой водворившийся таким способом и пребывающий в хаосе «принудительный мир».

Станислав Лем,
«Фантастика и футурология» (1970)

Всё чаще звучат призывы обратить внимание на опасные мировые тенденции, ограничить внедрение ИИ в системы управления оружием массового поражения, реализовать методы аварийного отключения[37], ответственно использовать[38], оставлять «человека в контуре» и многое другое[39]. Основные предложения по снижению рисков выглядят следующим образом.

Первое. Контроль над внедрением ИИ, аналогичный ограничениям ДСНВ. Возникает резонный вопрос: можно ли запретить ИИ в ядерной сфере международными договорами? В отличие от опыта прошлых договоров по контролю над вооружениями верифицировать «строчки кода» практически невозможно. Это не пусковые шахты, которые можно посчитать со спутника. Также возникает опасный соблазн скрытого внедрения систем с высокой степенью автономности в надежде получить преимущество первого удара.

Второе. Стратегия выживания «человек в контуре». Единственным реальным предохранителем остаётся концепция «физического разрыва» и безусловного сохранения человека в цепочке принятия решений. Последнее слово должно всегда оставаться за человеком. Никакая рекомендация ИИ не должна автоматически приводить к пуску. Хотя, как отмечалось выше, этого недостаточно, так как человек может довериться ИИ в условиях экстремального стресса, когда он капитулирует перед авторитетом машины, превращая проверку в формальность.

Третье. Прямые линии 2.0. Необходимы каналы связи не только между президентами, но и между техническими специалистами, способными максимально быстро идентифицировать алгоритмический сбой и остановить каскадную эскалацию.

Однако, как было отмечено, в каждом из направлений есть существенные упущения. Учитывая «высоту ставок», здесь необходимо применять инструменты жесточайшего взаимного контроля.

Четвёртое. Тотальная алгоритмическая прозрачность. Государства должны прийти к жёсткому соглашению: использование непрозрачных (ИИ) алгоритмов в критических узлах СПРН и управления ядерной триадой приравнивается к подготовке внезапного нападения. Любой код в этих контурах должен быть проверяемым, линейным и жёстко детерминированным.

Пятое. Осознанный технологический консерватизм. Единственным надёжным щитом от неконтролируемой эскалации остаётся сохранение физически изолированных контуров управления и верификации. Модернизация АСБУ и завершение их полной цифровизации у ведущих держав не должны означать автоматического допуска вероятностных алгоритмов к принятию стратегических решений. Технологический консерватизм архитектуры систем боевого управления ядерных сил сегодня – не признак отставания, а сознательный выбор в пользу надёжности и ключевой элемент выживания.

Шестое. Институциональное табу. Необходим международный режим, аналогичный запрету на биологическое оружие, но направленный на «боевой автономный интеллект» в стратегических силах. Это вопрос не просто этики, а выживания человечества.

Математика фатальной неизбежности гласит: если мы полностью доверим защиту мира алгоритмам, мир перестанет быть человеческим ещё до того, как упадёт первая ракета. Наша задача – вернуть «право на сомнение» в мир, который слишком быстро привыкает к цифровой безошибочности.

Автор: Александр Малков, эксперт Агентства системного охвата и стратегического нетворкинга (Казахстан)