Армагеддон на автопилоте: работает ли ставка на автоматический ядерный запуск
Ядерным оружием сегодня владеют девять государств, а система договоров о контроле над вооружениями, которую выстраивали десятилетиями, фактически распалась. На этом фоне двое американских исследователей, Джошуа Шварц и Майкл Горовиц, задались вопросом, от которого раньше отмахивались как от фантастики: что изменится, если решение о ядерном запуске передать компьютеру. Рассуждением они не ограничились. Провели опрос: свыше ста действующих британских парламентариев и более тысячи граждан. Респондентам предложили гипотетический сценарий 2030 года: Россия вторгается в Эстонию и грозит ядерным ударом, если НАТО вмешается. Когда угроза исполнялась автоматически, публика на тринадцать процентных пунктов чаще верила, что удар и вправду последует, а депутаты на девять пунктов чаще склонялись к тому, чтобы уступить.
«Мёртвая рука» как точка отсчёта
Идея передать компьютеру право на ядерный удар кажется чистой выдумкой сценаристов. Но у неё есть реальный прецедент, и построил его Советский Союз.
Речь о системе «Периметр», известной на Западе как «Мёртвая рука». Её задача формулировалась узко: гарантировать ответный удар, если по стране уже нанесён удар, а высшее руководство уничтожено или потеряло связь с войсками. В такой ситуации система в обход уничтоженного высшего командования передавала право на запуск дежурному офицеру низшего звена, а по некоторым описаниям могла запустить командные ракеты и автоматически. Смысл был в защите от обезглавливающего удара — попытки противника одним махом выбить командование и лишить страну возможности ответить.
Здесь важно, чем «Периметр» задумывался. Это оборонительная конструкция, работающая на потенциал ответного удара: способность нанести возмездие даже после того, как противник уже ударил. Она никого ни к чему не принуждает и ничего не захватывает, только держит наготове ответ, чтобы первый удар обошёлся противнику дорого.
Шварц и Горовиц берут ту же техническую идею и разворачивают её в другую сторону. Что, если автоматику ответного удара использовать не для обороны, а для шантажа: вторгнуться в соседнюю страну и заявить, что при вмешательстве извне удар последует автоматически. Механика «связанных рук» здесь та же, что у «Периметра»: решение вынесено за пределы человеческой воли. А вот цель уже другая. Возмездие за нападение тут ни при чём — автоматика прикрывает само нападение, снимает с него цену. На этом развороте от обороны к принуждению и держится тревога авторов. Тут же проходит граница аналогии: «Периметр» реагировал на уже случившийся удар, а гипотетическая наступательная система реагировала бы на действия, которые ещё можно не совершать.
Почему ядерным шантажом трудно принудить
Угроза применить ядерное оружие кажется абсолютным аргументом. Роберт Пейп заметил, что оно «почти всегда способно причинить больше боли, чем в силах вынести любая жертва». Логично предположить, что таким оружием можно принудить кого угодно к чему угодно. На практике это работает плохо, и мешают два обстоятельства.
Первое — гарантированное взаимное уничтожение: положение, при котором обе стороны сохраняют возможность ответить сокрушительным ударом, даже получив первый. Если у того, кому угрожают, есть ядерное оружие и надёжная способность ответить, угроза теряет вес. Исполнить её значит вызвать ответное возмездие. Рациональному государству это невыгодно, а раз невыгодно, то и не слишком убедительно.
Второе — ядерное табу, сложившаяся норма неприменения. За восемьдесят лет после Хиросимы сложилось устойчивое неприятие применения этого оружия. Пока у государства есть другие способы добиться своего, ядерная угроза выглядит несоразмерной, а значит, снова не вызывает доверия: слишком велика цена её исполнения.
Здесь и возникает соблазн отдать решение машине. Человек взвешивает последствия и потому не решается нажать кнопку, и все это понимают. Компьютеру же безразлично, что удар иррационален и вызовет возмездие. Отступать он не станет, если только отступление заранее не прописано в коде. Передав ему право на запуск, лидер как бы демонстрирует: торговаться больше не с кем, решение принято заранее и отменить его нельзя. Угроза, которая была нелогичной, становится правдоподобной именно потому, что из неё убрали человека, способного передумать.
Что показал опрос, и чего он не показал
Чтобы проверить, работает ли эта логика, авторы и обратились к британским парламентариям и гражданам. Сценарий 2030 года меняли случайным образом. В одном варианте российская угроза исполнялась автоматически, по сигналу датчиков и систем раннего предупреждения. В другом решение оставалось за человеком. Затем спрашивали: верите ли вы, что удар последует, и готовы ли соблюсти установленную «красную линию».
Автоматика сдвинула ответы. Британская публика более чем на тринадцать процентных пунктов чаще верила, что при нарушении российской «красной линии» Москва действительно применит оружие, если угроза была автоматической. Парламентарии на девять пунктов чаще высказывались за отказ защищать Эстонию. И это при том, что у Британии есть собственное ядерное оружие, а Эстония прикрыта статьёй 5 Североатлантического договора о коллективной обороне.
Стрелка качнулась, но не более того. Тринадцать пунктов означают, что своё мнение под давлением автоматики поменяло меньшинство опрошенных, а большинство осталось при прежнем. Сами авторы называют сдвиг «умеренным» и признают: автоматизация влияет на настроения, но панацеей для принуждения не служит. Результаты к тому же внутренне противоречивы. Парламентарии чаще соглашались отступить, но при этом в среднем не сочли автоматическую угрозу более достоверной, чем обычную. Уступали они, судя по всему, не потому, что поверили сильнее, а потому, что с компьютером нельзя торговаться, как с человеком, и эта неопределённость пугала сильнее самой угрозы.
Отсюда видно, чего стоит громкий ярлык «оружие судного дня». Приём, поданный как способ гарантированно сломить волю противника, на деле переубеждает меньшинство и не всегда даже кажется убедительнее человеческой угрозы. Он берёт колеблющихся, но пасует перед теми, кто определяет исход решения, — а именно от них всё и зависит.
Сбои, взлом и блеф: цена «связанных рук»
За кажущейся эффективностью прячется цена, которую авторы разбирают подробно. В холодную войну системы раннего предупреждения не раз ложно докладывали о начале ядерной атаки, причём по обе стороны противостояния. Каждый раз ошибку останавливал человек, успевавший разобраться, что тревога ложная. Автоматика такого предохранителя лишена по определению, и этой уязвимости подвержена не одна какая-то страна, а все обладатели ядерного арсенала.
Современная техника надёжнее не стала, и авторы подкрепляют это примерами из мирных отраслей. Система MCAS на Boeing 737 MAX, вмешивавшаяся в управление помимо воли пилотов, стала причиной двух катастроф в 2018 и 2019 годах. «Мгновенный обвал» (Flash Crash) 2010 года, спровоцированный автоматическими торговыми алгоритмами, за минуты стёр сотни миллиардов долларов рыночной стоимости. К этому добавляются уязвимость к взлому, позволяющему стороннему игроку спровоцировать чужую войну, и предвзятость автоматизации — склонность человека чрезмерно доверять машине.
Отдельная проблема в том, чем система устроена внутри. «Периметр» работал на жёстких правилах: заданный набор условий давал заданный результат. А если запуск доверить сложной, обучаемой на данных программе, никто, включая её создателей, не сможет надёжно объяснить, почему она приняла именно это решение. Непрозрачность и слепое доверие к машине складываются в сценарий, где катастрофа наступает без чьего-либо решения о войне.
И здесь обнажается изъян самой идеи. Проверить, есть ли у противника автоматическая система, почти невозможно: исходный код не покажут, опасаясь выдать уязвимость. Но раз проверить нельзя, а выгода от угрозы есть, возникает соблазн блефовать: заявить об автоматике, не создавая её. Приём, придуманный ради доверия, сам его и разъедает: пойманный на блефе однажды платит недоверием ко всем своим будущим угрозам.
Показательно, что Шварц и Горовиц, даже обнаружив у автоматики некоторый принудительный эффект, отговаривают страны НАТО идти этим путём. Когда речь о том, чтобы не допустить ядерного удара, ставки слишком высоки, чтобы принять риски сбоя, взлома и эскалации. Взамен они предлагают укреплять способность к ответному удару — тогда у государств, боящихся обезглавливания, отпадёт сам мотив к автоматизации, — а также добиваться многостороннего запрета на автоматический запуск, закрепляя неформальную договорённость, к которой уже пришли Вашингтон и Пекин.
Главный вывод исследования обращён не к тому, кто держит палец над кнопкой, а к тому, кто на неё смотрит. Автоматика не даёт решающего перевеса: она переубеждает меньшинство и проверке почти не поддаётся. Но пока противник допускает хоть какую-то вероятность, что руки и вправду связаны, он вынужден считаться с угрозой. Опасен, выходит, не сам механизм. Опасна тень, которую он отбрасывает на чужой расчёт, — расчёт, который приходится строить вокруг системы, о существовании которой не знаешь наверняка.
Информация