Чи дозволить американська система ядерного командування, управління і зв’язку за лічені хвилини після виявлення запуску або ядерної детонації прийняти своєчасне і точне рішення про відплату? Ми не знаємо.
У статті «Америка потребує «мертвої руки», опублікованій у 2019 році на сторінках War on the Rocks, ми запропонували розробити систему ядерного командування, управління і зв’язку на основі штучного інтелекту, щоб частково вирішити цю проблему. За п’ять років, що минули з моменту публікації статті, Китай розпочав безпрецедентне розширення свого ядерного арсеналу; росія вторглася в Україну, неодноразово погрожувала ядерною зброєю і «призупинила» свою участь у новому Договорі про скорочення і обмеження стратегічних наступальних озброєнь (СНО); а Північна Корея розпочала масове розширення свого ядерного арсеналу. Сполучені Штати не збільшили свій арсенал жодною одиницею зброї і не розгорнули жодного нового засобу доставки.
Сьогодні ми вважаємо, що Сполучені Штати ще більше відстають від Китаю і росії, оскільки обидві країни модернізують і розширюють свої ядерні арсенали і зміцнюють свої системи ядерного командування, управління і зв’язку. Цей зростаючий розрив у можливостях лише збільшує силу примусу, яку мають росія і Китай, щоб змусити Сполучені Штати не втручатися у випадку агресії.
Ми можемо лише зробити висновок, що Америка потребує системи «мертвої руки» більше, ніж будь-коли. Така система не тільки виявить атаку, що наближається, швидше, ніж нинішня система, але й дозволить президенту або вручну віддати наказ на відповідь військам, або автоматично виконати заздалегідь обрані президентом варіанти відповіді – для певного сценарію розвитку подій.
Попередні дискусії про корисність штучного інтелекту для систем ядерного командування, управління і зв’язку часто приписують штучному інтелекту можливості і характеристики, які явно відрізняються від усього, що може бути корисним у польових системах. Насправді ж, ядерна система управління, контролю і зв’язку зі штучним інтелектом і можливістю «мертвої руки» ніколи не перетвориться на «War Operation Plan Response» з фільму «Військові ігри» 1983 року або на «Скайнет» зі всесвіту Термінатора, тому що можна використовувати штучний інтелект з дискретними можливостями, які не еволюціонують в розумну систему.
Коротше кажучи, системи, які ми пропонуємо тут, спеціально розроблені для того, щоб збільшити швидкість, з якою Сполучені Штати можуть виявити атаку супротивника, прискорити здатність президента реагувати на удар, що наближається, і забезпечити отримання польовими військами наказів президента. За необхідності президент може запрограмувати бажану реакцію на низку сценаріїв і дозволити системі в автоматичному режимі узгодити виявлений удар з бажаною реакцією президента. Відносне скорочення американського ядерного арсеналу порівняно з ядерними арсеналами росії, Китаю і Північної Кореї робить таку систему необхідною, оскільки вона ускладнює розрахунки противника при плануванні ядерного удару по Сполучених Штатах.
Штучний інтелект
Обговорення корисності штучного інтелекту в ядерних системах управління, контролю і зв’язку часто переростає в емоційні суперечки і звинувачення в якомусь підлому бажанні створити загальний штучний інтелект, який вб’є нас усіх. Така точка зору фундаментально неправильно розуміє всю широту інструментів, які в широкому сенсі називають штучним інтелектом. Деяке роз’яснення буде корисним.
Міністерство оборони США визначає штучний інтелект як «здатність машин виконувати завдання, які зазвичай вимагають людського інтелекту – наприклад, розпізнавати закономірності, вчитися на досвіді, робити висновки, прогнозувати або діяти – чи то в цифровому вигляді, чи то як розумне програмне забезпечення, що стоїть за автономними фізичними системами».
Штучний інтелект – це загальний термін, який часто використовується для об’єднання декількох концепцій, навіть якщо вони технічно не можуть бути віднесені до штучного інтелекту. Машинне навчання, обробка природної мови, експертні системи та нейронні мережі можуть бути корисними для системи, яку ми прагнемо розробити та впровадити. Наприклад, чат-боти, які часто з’являються на веб-сайтах компаній, щоб відповісти на запитання, використовують комбінацію зіставлення шаблонів, наївного баєсового класифікатора, моделей sequence-to-sequence, рекурентних нейронних мереж, довгої короткочасної пам’яті та алгоритмів обробки природної мови.
У поєднанні ці інструменти корисні для автоматизації прийняття рішень. Кожен з них має сильні та слабкі сторони і корисний для одних цілей, а для інших – ні. Ось чому вони об’єднуються в ці великі системи.
Всі форми штучного інтелекту базуються на математичних алгоритмах, які визначаються як «набір інструкцій, яких слід дотримуватися при обчисленнях або інших операціях». По суті, алгоритми – це програми, які вказують моделі, як вчитися самостійно.
Вони настільки хороші, наскільки хороші їхні розробники, тому створення правильної команди розробників має вирішальне значення. Якщо не залучити соціологів, військових операторів, маркетологів та інших фахівців, то аналітики даних, програмісти і математики побудують глибоко недосконалу і упереджену модель. Ця дискусія важлива, тому що вона розрізняє систему, посилену різними інструментами штучного інтелекту, і загальний штучний інтелект, проти якого ми виступаємо.
Скоріше, передбачувана система є чимось схожим на концепцію, відому як «Модель раціональної поведінки», розроблену у Naval Postgraduate School для використання на автономних військово-морських суднах. У моделі раціональної поведінки штучний інтелект використовується в компонентах системи, пов’язаних з розумінням вхідних даних від датчиків, але штучний загальний інтелект ніколи не використовується.
Прийняття рішень на вищому рівні в моделі раціональної поведінки здійснюється шляхом попереднього планування з метою розробки набору сценаріїв і заздалегідь запланованих результатів рішень для кожного сценарію. Як ми пояснюємо, в нашій системі президент бере участь у президентській нараді з прийняття рішень, на якій вивчається повний набір сценаріїв, і для кожного з них приймається рішення.
Розуміння проблеми
Згідно з Посібником з ядерних питань Міністерства оборони США, ядерне командування, управління та зв’язок «виконує п’ять критично важливих функцій: моніторинг ситуації; планування; прийняття рішень; скерування сил; управління силами». Ця діяльність включає «виявлення, попередження і характеристику нападу; ядерне планування; проведення конференцій для прийняття рішень; отримання президентських наказів; і забезпечення управління і керівництва військами».
У 2016 році ВПС визначили свою систему ядерного командування, управління і зв’язку як систему озброєння AN/USQ-225, намагаючись об’єднати розрізнений набір застарілих систем у щось більш кероване. Ця система повинна виявити запуск противника, прийняти рішення про відповідну реакцію і вказати силам напрямок дій. Час, протягом якого відбувається цей процес виявлення, прийняття рішення і спрямування, сильно «стискається» більш сучасними, багатопрофільними можливостями супротивника.
Виклик скорочення часу нападу зумовлений розробкою нових видів зброї і великою кількістю засобів, які розробляють і розгортають супротивники. Росія, Китай і Північна Корея мають на озброєнні авторитарний арсенал, який в сукупності затьмарює арсенал демократії у вигляді стратегічних і нестратегічних ядерних озброєнь. Росія і Китай вже мають можливість рухатися вгору і вниз по ескалаційній драбині Германа Кана так, як Сполучені Штати не можуть.
Виклик стиснення часу атаки не є новим для Сполучених Штатів. Як пояснюється в «Посібнику з ядерного стримування в епоху конкуренції великих держав», саме цей виклик призвів до створення сучасної системи ядерного командування, управління і зв’язку. Наразі NC3 Enterprise Center при Стратегічному командуванні Збройних сил США вирішує завдання заміни застарілих систем на сучасні, які не піддаються втручанню противника.
Джонатан Фальконе та його співавтори розглядають деякі з викликів, пов’язаних зі створенням ядерних систем управління, контролю і зв’язку на основі штучного інтелекту. Філіп Райнер і Алекса Весенер також розглядають ці проблеми і пропонують консервативний підхід до інтеграції штучного інтелекту в системи ядерного командування, управління і зв’язку.
Як пишуть Райнер і Весенер, «ми переконані, що найбільш корисно витрачати час на обговорення технічних переваг і недоліків такої інтеграції таким чином, щоб не просто класифікувати точки зору на дискусію як «це божевілля» або «просто не треба», або так само розпливчасто, як заявляти про необхідність «автоматизованої системи стратегічного реагування на основі штучного інтелекту».
Прискорення виявлення ворожого нападу і процесу прийняття рішень є загальновизнаною необхідністю. Багато в чому саме так можна досягти цієї мети там, де існують розбіжності.
«Мертва рука»
«Аварійний вимикач» – dead man switch – вперше був розроблений як «відмовостійкий» (fail-safe) механізм з появою електричних трамваїв у Сполучених Штатах на початку 20-го століття. Зараз аварійні вимикачі є поширеною функцією безпеки в усьому, від снігоходів до автомобілів Tesla.
Америка також не звикла до систем «безвідмовно-фатальних» (fail-fatal). Special Weapons Emergency Separation System, також відома як «dead man switch», була системою детонації ядерної бомби, вбудованою в ранні бомбардувальники B-52 під час Холодної війни. Вона гарантувала, що в разі втрати екіпажем працездатності через ворожу [протиповітряну] оборону, ядерна зброя все одно здетонує, як тільки літак знизиться нижче заданої висоти.
Радянська/російська система «Пєрімєтр», коли вона активована, підтримує постійний зв’язок з командуванням. Якщо зв’язок між керівництвом і польовими військами втрачається, система сприймає цю втрату як те, що американський обезголовлюючий удар виводить з ладу командний центр. Це призводить до запуску ракет, обладнаних для передачі кодів дозволу ядерним силам, які потім запускаються проти Сполучених Штатів.
Хоча існують розбіжності, здається, що Радянський Союз створив «Пєрімєтр» для того, щоб одночасно стримувати Сполучені Штати від націлювання на радянське керівництво, що є частиною американської стратегії вибору об’єктів завдавання удару ядерною зброєю згідно концепції «контрсили», і дати радянському керівництву можливість пережити перший удар, не втрачаючи можливості для другого удару. Іншими словами, існування «Пєрімєтру», принаймні теоретично, давало радянським лідерам впевненість у тому, що вони зможуть завдати другого удару в разі своєї загибелі.
Американська «Мертва рука» слугувала б аналогічній меті. Як систему зі штучним інтелектом, набагато точніше розглядати «мертву руку» як систему систем з широким спектром алгоритмів, вбудованих в системи, що складають систему ядерного командування, управління і зв’язку. Завдяки поєднанню жорсткого кодування і алгоритмів, така система буде використовувати алгоритми там, де є сенс виконувати дискретні функції – наприклад, оцінювати дані від космічних систем постійного інфрачервоного випромінювання. Це лише один приклад того, як процес – оцінка інфрачервоних сигнатур для визначення, чи свідчать вони про запуск міжконтинентальної балістичної ракети – може бути переданий набору алгоритмів, які обробляють дані швидше, ніж нинішня система. Варто також зазначити, що нинішня система систем збирає велику кількість даних, які можуть слугувати для навчання майбутніх алгоритмів на дискретних завданнях.
Майте на увазі, що коли інструменти штучного інтелекту вбудовані в конкретну систему, кожна функція виконується декількома алгоритмами різної конструкції, які повинні узгодити свою оцінку для передачі даних далі. Якщо виникають розбіжності, необхідне втручання людини.
Така особливість дизайну нагадує модель запобігання людським помилкам Джеймса Різона «Швейцарський сир». Коротше кажучи, кожен алгоритм діє як шматочок швейцарського сиру, з недосконалостями, які відрізняються від інших алгоритмів. Коли вони складені разом, недосконалості кожного алгоритму не вирівнюються ідеально, що призводить до фатальної помилки.
З 1950 року в Сполучених Штатах сталося близько трьох десятків аварій, пов’язаних з ядерною зброєю. Жодна з цих аварій не призвела до випадкової ядерної детонації, оскільки зброя була побудована з надлишковими засобами безпеки. Сучасна система ядерного командування, управління і зв’язку також розроблена з урахуванням надмірності.
Наприклад, Сполучені Штати покладаються на подвійну феноменологію, щоб визначити, чи є підозрюваний запуск міжконтинентальної балістичної ракети фактичним запуском. Для цього вони використовують інфрачервоні системи космічного базування для виявлення інфрачервоної сигнатури запуску ракети, а потім перевіряють цю сигнатуру за допомогою радарів дальнього радіусу дії. Дві дуже різні системи використовують різні методи для досягнення правильного висновку.
Це лише один приклад того, що будь-яка ядерна система командування, управління і зв’язку повинна мати надлишкові елементи, які запобігають виникненню окремих точок відмови. Вбудовування алгоритмів у складові системи не змінює цієї вимоги.
Прийняття рішень на рівні президента
Відповідно до «Підручника з оборони: командування та контроль над ядерними силами» Дослідницької служби Конгресу США:
Президент США має одноосібне право надавати дозвіл на застосування ядерної зброї США. Ці повноваження є невід’ємною частиною його конституційної ролі як Верховного головнокомандувача. Президент може звертатися за порадою до відповідних військових радників; ці радники зобов’язані передавати і виконувати накази, що дозволяють застосування ядерної зброї. Президент не потребує згоди Конгресу США, щоб віддати наказ про запуск ядерної зброї, і ані військові, ані Конгрес не можуть скасувати ці накази.
Справжній виклик для президента полягає в тому, що «президент матиме менше 10 хвилин, щоб засвоїти інформацію, переглянути наявні варіанти і прийняти рішення». Іншими словами, після того, як космічні і наземні системи попередження виявлять і підтвердять, що ядерна зброя прямує до Сполучених Штатів, президент, одночасно намагаючись переміститися в безпечне місце (бункер Білого дому або літак Air Force One), повинен буде зв’язатися по телефону з міністром оборони і командувачем Стратегічного командування США, щоб прийняти рішення про відповідь – можливо, до того, як американські ядерні бази будуть знищені. Він зробить все це без жодних тренувань.
Хоча національне командування проводить регулярні навчання, президент не є їх учасником і не відточує своє розуміння застосування ядерної зброї, націлювання на ціль, наслідків та інших важливих компонентів її використання. Він покладається на поради військових. Це навчання на робочому місці в найгіршому своєму варіанті.
Нинішня система ядерного командування, управління і зв’язку не лише не відповідає викликам, що стоять на порозі Америки – але й процес прийняття рішень президентом є вкрай неадекватним. Таким чином, система зі штучним інтелектом повинна не лише прискорити процес виявлення, прийняття рішень і керування, але й допомогти президенту покращити процес прийняття рішень.
Процес покращення прийняття рішень президентом під час ядерної атаки може мати наступний вигляд. Після президентських виборів, в мирний час, президент сідає з радниками і розглядає різні сценарії першого удару потенційного супротивника. Під час цього процесу президент приймає рішення про найкращі варіанти відповіді для кожного сценарію. Ці рішення потім вводяться в систему, яка працює або в ручному, або в автоматичному режимі.
Коли система працює в ручному режимі, вона не функціонує як система «мертвої руки», а залишається системою зі штучним інтелектом, яка швидше обробляє дані раннього попередження. Як тільки система виявляє напад і ініціюється президентська конференція для прийняття рішення, система також може запропонувати президенту варіант реагування, який найбільше відповідає його доконфліктному рішенню. Така можливість має цінність, оскільки може допомогти президенту уникнути прийняття неправильних рішень, які часто супроводжують ситуації високого рівня стресу.
Коли система працює в автоматичному режимі, вона може виявити зброю, що наближається, зіставити удар супротивника з найближчим заздалегідь обраним президентом варіантом відповіді і санкціонувати виконання відповіді. Тут система функціонує як «розумна мертва рука», здатна підібрати бажану президентом відповідь на будь-який удар.
Якщо, наприклад, Сполучені Штати опиняться в ядерній кризі, президент може перевести систему з ручного в автоматичний режим і повідомити супротивника, що американська система «Мертвої руки» автоматично відреагує на будь-який удар по Сполучених Штатах. Мета полягає в тому, щоб заохотити супротивника до стриманості і уможливити деескалацію, але, якщо це не вдасться, країна може швидко відповісти на ядерну атаку.
Для декого наше обговорення системи ядерного командування, управління і зв’язку, яка включає інструменти штучного інтелекту, коли і де це доречно, але уникає надання штучному інтелекту повноважень приймати рішення, може мати сенс. Для інших, однак, попередній вибір президентом варіантів реагування в автоматизованій системі командування і управління може здатися занадто великим кроком. Ідея про те, що президент погодиться попередньо обирати варіанти ядерного реагування, може здатися неправдоподібною.
За нинішніх умов це може бути правдою, але за браком досвіду з таким варіантом неможливо знати напевно. Однак це не заперечує того факту, що запропонована тут система і підхід покращує існуючий метод, залучаючи президента до процесу прийняття рішень задовго до того, як у нього буде лише кілька хвилин, щоб визначити, як реагувати на ядерну атаку, що наближається. Якщо, наприклад, президент почне брати участь у ядерних навчаннях і зіткнеться зі змодельованими умовами, подібними до реальної події, недоліки існуючої системи стануть очевидними.
Президент не має більш важливої відповідальності, ніж розгортання і застосування ядерної зброї. Якщо цей день коли-небудь настане, наша мета – забезпечити, щоб людина, що приймає рішення одноосібно, мала найкращі шанси досягти успіху в обмеженні шкоди для Сполучених Штатів.
Висновок
Оскільки спільні інтереси зближують росію, Китай і Північну Корею, їхні об’єднані ядерні арсенали становлять зростаючу загрозу для Сполучених Штатів. Замість того, щоб розгортати ядерний арсенал, здатний пом’якшити цей зростаючий ризик, країна йде шляхом, прокладеним більше десяти років тому, коли часи були зовсім іншими. Іншими словами, Сполучені Штати не розгортають весь спектр сил і засобів, необхідних для ефективного пом’якшення зростаючого виклику стиснення часу атаки.
Забезпечення розуміння росією і Китаєм того, що Сполучені Штати завжди можуть відповісти на ядерний удар, є критично важливим. Розробка системи ядерного командування, управління і зв’язку на основі штучного інтелекту з можливістю або прискорити прийняття рішень президентом (ручний режим), або реагувати в автоматичному режимі – це один із способів розв’язання цієї проблеми.
Адам Лоутер та Кьортіс Макгріффін
