У той час як попередні технологічні розробки змінили людську поведінку та зовнішній вигляд, швидкий розвиток штучного інтелекту змінить основні соціальні та політичні переконання людей, зокрема щодо природи та ролі держави. Використання автономної зброї у війні є показовим прикладом.
Стрімкий розвиток штучного інтелекту (ШІ) не лише руйнує традиційні уявлення про роботу. Він також змінює сутність людської ідентичності
Якщо попередні технічні розробки змінювали поведінку і зовнішній вигляд людей, то ШІ стане причиною фундаментальних змін ключових соціально-політичних уявлень людини, включно з поглядом на природу і роль держави.
Під час промислової революції XIX століття механічна сила, яку отримували переважно використанням вугільного палива, замінила силу людини і тварин як джерело енергії для перетворення природи і виробництва промислових і споживчих товарів. У міру того як у ХХ столітті ця революція рухалася вперед, важка фізична праця залишалася долею лише групи професій, що скорочувалася.
Щоб отримати уявлення про більшу частину роботи доіндустріальної епохи, погляньте на покрівельників, які сьогодні все ще виснажені і змучені роботою зі стихіями в незручних позах, що впливають на їхнє фізичне здоров’я. У них залишається в ХХI столітті те, що колись було загальною долею. Робітники автомобільних заводів початку двадцятого століття нахилялися над своїми інструментами, піднімали важкі предмети і витрачали багато сил. Їхні колеги початку двадцять першого століття дивляться на монітори і стежать за роботами, які взяли на себе важкі фізичні операції. Зі зникненням економіки поту трудящі стали слабшими, але й здоровішими. Ті, хто хоче зберегти деяку фізичну силу, тепер ходять у спортзал.
Революція інформаційних технологій стала наступним кроком розвитку людства. Оскільки машини взяли на себе більше розумових завдань, комп’ютери тепер керують роботами, які виконують фізичну роботу. З усуненням розумової роботи (наприклад, складної арифметики, якою раніше користувалися продавці) продовжилася та сама стара тенденція: багато людей перестали думати на роботі та витрачають свою енергію на кросворди, судоку або гру e Wordle.
Сьогоднішня революція іде набагато далі, тому що вона впливає на те, як концептуалізується колективна діяльність. Ця зміна, можливо, найяскравіше проявляється щодо військової справи, але вона також має значення для участі в політичному житті і навіть для нашого розуміння законної влади.
ХХ століття запам’яталося найбільш руйнівними війнами в людській історії, що стало новим імпульсом для демократизації. Оскільки солдати та їхні сім’ї мали бути винагороджені за свої жертви, обидві світові війни призвели до розширення виборчого права. Класичний політичний лібералізм містив у собі ідею того, що від людей не слід очікувати, що вони віддаватимуть життя за певний політичний устрій, якщо їхній голос у цьому устрої не враховувано.
А технологія показує шлях, як прискорити цей процес. У всьому світі від освіченого міського населення дедалі рідше очікують участі в жорстокій стороні людських справ. Розглянемо приклад Росії. Путін спирається на напівавтономні групи найманців, населення периферійних регіонів країни і навіть ув’язнених, аби вести свою війну в Україні, бо він знає, що населення Москви і Санкт-Петербурга фізично і, що більш важливо, психологічно не підходить для цього завдання.
Це, звичайно, не нова проблема. Перед Першою світовою війною воєначальники у великих європейських країнах ставили собі питання, як вони виставлятимуть на поле бою великі армії, ураховуючи, що сучасне промислове життя зробило багатьох новобранців фізично непридатними для військової служби. Сьогодні органи військового планування, як і раніше, мають ті самі побоювання. У 2017 році за оцінками Пентагону 71% молодих американців (у віці від 17 до 24 років) виявилися непридатними до військової служби, і відтоді їхня частка зросла до 77%. Але в них є технології, які попередні покоління навряд чи могли собі уявити. Війну беруть у свої руки безпілотні пристрої, як-от автономні дрони, так само, як у попередні епохи з’явилася промислова й офісна робота.
Щоб зрозуміти політичні наслідки автоматизації війни, просто подумайте, як суспільство загалом змінилося в сучасну епоху. У середньовічному суспільстві люди зазвичай поділялися на три стани: oratores (ті, хто молиться), bellatores (ті, хто воює), laboratores (ті, хто працює) — ті, хто виступав у ролі промовців або молився (духівництво), ті, хто воював (аристократія), та решта, ті, хто виконував якусь «роботу» у вигляді фізичної праці.
Саме завдяки своїй боєздатності аристократія спочатку могла претендувати на величезну політичну владу. Але після того, як аристократи перестали воювати і пішли на піжонське придворне існування, легітимність їхнього правління випарувалася в хмарці парфумів. З появою масових армій, що виникли після епохи Французької революції, війна стала демократичнішою справою, як і політика. Але тепер, коли війну ведуть за допомогою технологій, влада знову йде від людей.
Що буде з рештою соціальних груп? Подібно до того, як промислова революція знизила потребу суспільства в «трудящих « (laboratores), революція штучного інтелекту робить участь людей у військовій сфері анахронізмом. Як уже було з «трудящими», стан «воїнів « (bellatores) заповнюють машини. Залишається група «тих, хто молиться» або «тих, хто ораторствує « (oratores), які виконують роботу, що поки що залишається долею людини.
Чи можуть вони також стати жертвами повзкої надмірності та можливого екзистенціального руйнування від рук технологій? Побоюючись цього, деякі критики і глави технологічних компаній закликають поставити розвиток ШІ на «паузу». Але технічний прогрес ніколи не зупинявся просто тому, що хтось цього хотів.
Гарольд Джеймс
