Міжнародне право замість Термінатора: Штучний інтелект неможливо зупинити під час війни, але технології не повинні брати контроль…
Кожен мобільний телефон має більшу обчислювальну потужність, ніж Eurofighter. Це зміниться, наприклад, із створенням бойової повітряної системи майбутнього (FCAS), яку спільно планують Німеччина, Франція та Іспанія. Технологічні інновації більше не течуть односторонньо від «військового» до «цивільного», а взаємно між двома полюсами. Цивільні ринки гігантські, військові слідують цьому прикладу. Військові говорять про «операцію об’єднаних сил». Вона об’єднує союзників, види збройних сил, частини військ і родів. Це вимагає використання потоку даних. Їх потрібно генерувати, збирати, обмінювати та оцінювати. Зрештою з них робляться далекосяжні висновки. Усього цього можна досягти лише за допомогою мережевого керування операціями. Їй доводиться мати справу зі складністю що відповідає сучасній війні. Перебіг війни в Україні неодноразово дивував у цьому плані навіть експертів.
При всіх змінах образу війни центральними залишаються класичні фактори «вогонь» і «рух». З моменту винаходу сучасної вибухівки – аж до атомної бомби – вогнева міць майже не зросла. З іншого боку, фактор руху зараз набуває надзвичайного значення завдяки цифровізації та автоматизації. Військова розвідка (англ. intelligence) ситуації противника, що постійно змінюється, і власної ситуації на полі бою майбутнього є відповідно вимогливою. Без тісного зв’язку та розумного використання їхніх ІТ-систем тамтешні війська загубилися б у незбагненному тумані даних. В ідеалі всі дані про системи озброєння противника будуть доступні в режимі реального часу в системній мережі, будуть миттєво класифіковані та негайно перенаправлені до системи озброєння, що найкраще підходить для ураження цілі. Рівний суперник також зробить те саме, тому тут вирішують секунди. І на цьому етапі в майбутньому запрацюють програми штучного інтелекту (АI), які значно перевершують будь-яку людину-оператора зброї у виявленні цілей і боротьбі з ворожими об’єктами. Це має драматичні наслідки, особливо для питання раннього попередження в контексті контролю над ядерною зброєю.
У майбутньому в гру вступлять програми штучного інтелекту, які значно перевершуватимуть будь-яку людину-оператора зброї у виявленні цілей і боротьбі з ворожими об’єктами.
Перед розробниками та адміністраторами таких систем систем виникає дилема: або вони зміцнюють системи, запроваджуючи високий ступінь самоконтролю, і таким чином, перш за все, максимально використовують перевагу швидкості реакції, але при цьому вони втрачають широкі можливості для контролю та адміністрування та, якщо необхідно, реконфігурації систем. Або вони послаблюють і сповільнюють системи, реалізуючи інтерфейси для втручання в потоки процесів, отримуючи таким чином потужність і гнучкість в їх управлінні. Цю напругу можна вирішити, лише серйозно ставлячись до концепції системи систем. У майбутньому, протягом усього перебігу конфлікту – знову ж таки в ідеалі – на кожному системному рівні функціональні спектри якомога більшої кількості ходів процесів на відповідному підпорядкованому рівні будуть прогнозовані завчасно, всебічно та повністю в порядку планування та визначені в хід налаштування технічної системи. На конкретному прикладі: Які саме гіперзвукові ракети має у своєму розпорядженні супротивник і чи є з ними взагалі збройний конфлікт, з’ясовується і визначається на політико-стратегічному рівні. Для випадку оборони на оперативному рівні встановлюються параметри, за якими такі ракети розпізнаються та ведуть боротьбу не пізніше, ніж під час заходу на посадку. На тактичному рівні системи тренуються за цими параметрами, щоб вони автоматично виявляли ворожі гіперзвукові ракетні системи в бою та негайно вражали їх, не відкриваючи знову вогонь. Проте всі, хто бере участь, мають усвідомлювати, що існують технічні обмеження надійності таких систем; у кращому випадку вони забезпечують ймовірність.
Щоб не втрачати перевагу швидкого реагування на тактичному рівні, оперативна ланка послідовно передаватиме віддачу вогневих наказів тактичній ланці. Він може зробити це без ризику втрати контролю, якщо завчасно перед битвою написав умови звільнення для вогню в тактичні процеси технічно обов’язковим способом, а також може внести технічно обов’язкові коригування на основі змінених оцінок ситуації. Цей зв’язок має застосовуватися аналогічно до взаємодії між стратегічним та оперативним рівнями. Іншими словами: Воєначальник і його командний склад орієнтуються оптимізувати та стабілізувати рішення головних підрозділів та їхніх штабів на оперативних командних пунктах, які, у свою чергу, розробляють специфікації для адміністрування та навчання програм AI, які керують вогнем на тактичному рівні, використовуючи AI, який допомагає на верхньому рівні системної мережі, а саме не де-небудь, а проти ворога. Продуктивність системи в цілому залежить від здатності підсистем спілкуватися як від центру до периферії, так і навпаки таким чином, щоб вона завжди найкращим чином реагувала на зміни умов і впливів навколишнього середовища. не будь-де, а проти ворога. Продуктивність системи в цілому залежить від здатності підсистем спілкуватися як від центру до периферії, так і навпаки таким чином, щоб вона завжди найкращим чином реагувала на зміни умов і впливів навколишнього середовища. не будь-де, а проти ворога. Продуктивність системи в цілому залежить від здатності підсистем спілкуватися як від центру до периферії, так і навпаки таким чином, щоб вона завжди найкращим чином реагувала на зміни умов і впливів навколишнього середовища.
Розробка зброї на основі штучного інтелекту вже призводить до серйозної етичної дискусії з огляду на сумнів щодо суверенітету військового та політичного керівництва.
Розробка зброї на основі штучного інтелекту вже призводить до серйозної етичної дискусії з огляду на сумнів щодо суверенітету військового та політичного керівництва. Це знову розширюється, коли йдеться про дотримання міжнародного гуманітарного права, яке ще не регулює використання ШІ. Відповідні переговори щодо Конвенції ООН про певні види звичайної зброї (CCW) поки що провалилися через загальне розуміння контролю людини . Але при тверезому розумінні це завдання має бути вирішуваним.
По-перше, слід уникати перевантаженого терміну «автономний». Тому що «слабкий» штучний інтелект (інших неможливо побачити далеко й повсюдно) не думає, не приймає рішень і не діє, а виконує функцію судження, як телескопи для бачення або протези для захоплення. ШІ — це «наукова дисципліна, яка переслідує мету операціоналізації людського сприйняття та інтелектуальної діяльності та створення доступних артефактів, майстерно розроблених технічних систем, особливо систем обробки інформації», як зазначено в Довіднику зі штучного інтелекту .називається. Навіть дуже складна зорова система в людському мозку не є «автономною». Тому не слід очікувати міжнародної угоди про заборону або регулювання «автономних систем зброї», доки неясно, що насправді означає «автономні» і що потрібно заборонити чи регулювати.
По-друге, контроль людинибути визначено наступним чином: системи озброєння, що підтримують штучний інтелект, повинні бути налаштовані таким чином, щоб вони підлягали постійному контролю людини з боку відповідальних осіб у кабінетах, штабах, штабах та оперативних центрах. Щоб гарантувати економію часу за допомогою автоматизації та при цьому не відмовлятися від контролю, командування, видачу команд і, зокрема, конфігурацію й адміністрування системи просто потрібно заздалегідь налаштувати на вищих рівнях. Тоді додаток AI може підтримувати процес прийняття військових рішень не тільки технічно щодо виявлення цілей і бою, але й з точки зору законодавчої відповідності та дотримання правил. Стаття 36 Додаткового протоколу I до Женевських конвенцій вимагає, щоб нова зброя була не тільки технічно, але й юридично сертифікована. Тому що недостатньо, якщо штучний інтелект відображає лише приблизні фізичні параметри об’єкта, такі як розташування, розмір або температура, щоб оголосити його військовою ціллю, але стаття 52 говорить: «Атаки повинні суворо обмежуватися військовими цілями. Що стосується об’єктів, то військовими цілями вважаються лише ті об’єкти, які за своєю природою, місцем розташування, цільовим призначенням або використанням ефективно сприяють військовим діям…»
Чи можна достовірно зафіксувати такі властивості, як військові цілі чи використання, за допомогою ШІ? Це повинно бути можливо за допомогою гіперзвукової зброї, але багато випадків завжди будуть містити аспекти, які не охоплюються ШІ, але які політики, стратеги та оператори хочуть враховувати на належному рівні під час оцінки ситуації. Висновок: три країни, які беруть участь у проекті Future Combat Air System, Німеччина, Франція та Іспанія, можуть переконливо вийти з нинішнього глухого кута переговорів щодо CCW, якщо вони оприлюднять описану тут диференційовану модель управління системою зброї, що підтримується ШІ, і надати докази для його подальшого розвитку.
Свобода дій, надана міжнародним правом, є величезною та гнучкою.
Ще потрібно висловити одне заперечення: хіба збройні сили, які поважають міжнародне право, не перебувають у невигідному становищі порівняно з тими, які його ігнорують? Це припущення здається очевидним, але проти нього є вагомі аргументи. Яку військову невигідність ризикує отримати той, хто уникне непотрібних втрат серед цивільного населення? Найпізніше після закінчення бойових дій це буде йому навіть на користь. Другий — більш важливий — аргумент пов’язаний з публічністю та виправданням конфліктуючих сторін: свобода дій, яку надає міжнародне право, є величезною та гнучкою. Тому в принципі кожна сторона конфлікту повинна очікувати, що інша сторона тлумачитиме її свободу дій відповідно до власної юридичної думки, а також максимально використає її. Саме з цієї причини міжнародне право не тільки але також як закон, який потрібно встановлювати та виконувати, одна з видатних сфер дипломатії та стратегічної комунікації. Формулавійна за допомогою закону вказує на велике значення публічності та чесноти дотримання законів і контрактів. Навіть важливішим, ніж кількість військ у збройному конфлікті, є переконання, що ти гідно борешся за добру справу.
Війна – це справді найвища ступінь збройного насильства, в якій кожен дійсно дозволяє собі все, що завгодно. Але саме через це його остракізм є дороговказною зіркою сучасного міжнародного права. Хіба це не було доведено знову і знову, і хіба це не доведено знову цими днями у Східній Європі, що перемогу та поразку вирішує не маса людей і матеріальних засобів, а якість політичної та військової культури?
Автор: доктор Гартвіг фон Шуберт — протестантський богослов і 15 років був військовим деканом Командно-штабної академії Бундесверу. Сьогодні він викладає прикладну етику в двох університетах Гамбурга.
Джерело: IPG–Journal, Німеччина