Генеративний ШІ здатний здійснити революцію у державному управлінні, але його вплив на демократію треба як слід осмислити.
Прогнозувати, як саме генеративний штучний інтелект (ШІ) вплине на демократію – це вкрай важке завдання з огляду на те, що його потенційні сфери застосування здебільшого залишаються невідомими, а виглядають майже безмежними. Якщо вузькі ШІ-інструменти, розроблені для виконання конкретних завдань, наприклад, для упорядкування реєстрів виборців, вже застосовуються в ряді країн, то наслідки використання генеративного ШІ набагато важче передбачити. Ця технологія – не просто якийсь черговий додаток, подібний до платформ соціальних мереж. Це фундаментальна технологія, чия поява більше схожа на появу Інтернету. Вона вплине на демократію як безпосередньо, перетворюючи механізми виборів та управління, так і опосередковано, оскільки вона загрожує змінити основи інформаційних екосистем, суспільної довіри та думок.
Що стосується прямого впливу, то тут генеративний ШІ здатний здійснити революцію в процесах державного управління, уможлививши більш точне та повне нюансів розуміння потенційних результатів прийнятих рішень. Такі організації, як, наприклад, Climate Change AI вже використовують цю технологію, вивчаючи, як «потрібно проектувати дороги, енергомережі та водопроводи, щоб врахувати збільшену частоту і суворість екстремальних погодних явищ». Правоохоронні органи використовують ШІ для стеження і передбачення злочинів (predictive policing). Останнім часом адвокати та судді почали використовувати генеративний ШІ (наприклад, ChatGPT) для допомоги у складанні позовів і навіть судових рішень.
Тим часом, посилюються тривоги з приводу того, як саме генеративний ШІ вплине на вибори. У 2024 році як мінімум у 45 країнах відбудуться вибори, у тому числі глобально значущі вибори відбудуться у США та Євросоюзі. Якщо вузький ШІ вже допомагає спрощувати адміністрування виборів, то генеративний ШІ може призвести до появи нових форм упередженості та невизначеності. Наприклад, украй децентралізована виборча система Америки включає 10 тисяч юрисдикцій.. У кожному штаті ведеться свій реєстр виборців, який потрібно постійно оновлювати, оскільки виборці переїжджають, помирають або з інших причин втрачають право голосу. Сьогодні у цій роботі активно використовуються вузькі ШІ-системи. Хоча вони допомагають підвищити ефективність, алгоритми, що використовуються для підтримки в порядку реєстру виборців, як показують перші дані , стикаються з труднощами в розумінні азіатських імен і можуть бути упереджені до меншин. Аналогічна упередженість була виявлена при використанні ШІ для перевірки підписів , а це необхідно у випадках, коли виборчі бюлетені надсилаються поштою.
Втім роль ШІ може бути легко розширена за межі простого адміністрування виборів. Він може використовуватися, наприклад, для формування правил і структури виборів, впливаючи на рівень їхньої конкурентності, на ступінь політичної поляризації, а також на явку виборців та стимули кандидатів. Майже 90% виборчих округів для виборів до Конгресу США вважаються « безпечними » з погляду партій, тобто результати виборів тут зазвичай передбачувані: перевага надається республіканцям або демократам. Сьогодні існують десятки програм, які допомагають законодавцям накреслити межі округів Сучасні програми генеративного ШІ можна використовувати для підвищення справедливості та представницькості американської політичної системи, але з їхньою допомогою так само легко можна посилити репресивне перекреслення кордонів округів на користь тих, хто перебуває при владі. Це ще більше захистить партії і кандидатів від справжньої конкуренції, що знаходяться при владі.
Крім перекроювання округів, генеративний ШІ може спростити проведення та інших структурних реформ. Наприклад, у європейських країнах використовується поєднання закритого та преференційного голосування . Навпаки, США практикуються одномандатні округи, у яких переможцю дістається все. Реформатори, які прагнуть підвищити політичну помірність і знизити рівень поляризації, дискутують з приводу переваг таких варіантів реформ, як рейтингове голосування, відкриті праймериз, пропорційне представництво. Однак потенційний ефект усіх цих змін у різному політичному середовищі та різному контексті, як і їхній загальний ефект у сукупності, залишається незрозумілим. Генеративний ШІ міг би пролити світло на цю складну динаміку, підвищивши нашу здатність оцінювати довгострокові наслідки електоральних реформ.
Подібні зміни можуть впливати на механізми демократії, але набагато більше тривог викликають непрямі наслідки. ШІ, швидше за все, призведе до глибоких змін на ринку праці, з усіма політичними наслідками. Він може також змінити інформаційні екосистеми, на які спираються влада, кандидати та виборці. Генеративний ШІ може стати цінним активом для журналістів , спрощуючи їм виконання таких завдань, як узагальнення підсумків слухань в органах влади, організація матеріалів, що надходять із різних джерел, або навіть складання чернеток статей та їх редагування. І він може призвести до того, що ще більше журналістів буде звільнено.
Платформи соціальних мереж можуть використовувати ШІ для модерації онлайн-контенту, борючись з поширенням передвиборної дезінформації та позбавляючи людей, які модерують контент, від часто травматичного завдання перевірки найбільш гидкого контенту в інтернеті. Втім, майже немає сумнівів у тому, що генеративна ШІ посилить нинішню кризу, спричинену поширенням дезінформації, оскільки вона спрощує створення дуже персоналізованого, переконливого контенту, який можна тестувати, виправляти, індивідуалізувати та таргетувати на всіх медіа-платформах. У квітні Республіканська партія опублікувала першу в історії рекламну атаку на президента США Джо Байдена, яка була створена штучним інтелектом Можна без жодних натяжок уявити політичний ландшафт, який буде наповнений дешевою у виробництві рекламою (або навіть подкастами) з використанням голосів і зображень людей, які користуються довірою. Ця реклама буде створюватися для маніпулювання конкретною аудиторією з використанням персональної інформації про переваги в інтернеті для виявлення та експлуатації психологічних вразливостей. Чи насправді ця технологія все повністю змінить, ще доведеться побачити.
Потенціал генеративного ШІ у створенні переконливої дезінформації на безлічі мов може стати великим подарунком для закордонних супротивників, які раніше мали труднощі через погане знання мови та культурні реалії. Захисники демократії також можуть користуватися цими інструментами для створення переконливіших матеріалів у боротьбі з авторитаризмом, займаючись мікротаргетуванням найбільш уразливих груп населення. Однак на сьогодні демократичні голоси перебувають у значній меншості та гірше оснащені.
Втім, хоча ШІ і здатний генерувати контент, йому, як і раніше, потрібні дистриб’ютори цього контенту (наприклад, Facebook) для охоплення аудиторії. Лабораторії ШІ та платформи соціальних мереж зобов’язані спільно розробити ефективні механізми запобігання поширенню дезінформації.
Важливо відзначити, що рівень упередженості в базових моделях мовного навчання такий самий, як і в корпусі історії людства, на якому вони тренуються. Саме тому в них віддається перевага культурам з більшим корпусом письмових та оцифрованих матеріалів (англійська та кантонський є кращими мовами), а історії завойовників представлені надмірно. Подібна упередженість може виявитися вкрай небезпечною, особливо у період, коли в країнах ліберальної демократії зростає політична поляризація, а 40% американців відкидають результати президентських виборів 2020 року.
Сама суть демократії залежить від довіри громадян до лідерів та інститутів, яким вони доручають представляти свої інтереси. Однак довіра – це тендітна річ, її треба захищати. Генеративний ШІ здатний принести велику користь у таких сферах, як медицина, промисловість, освіта, але його вплив на демократію слід добре осмислити. В іншому випадку ШІ послабить, а не зміцнить народне правління.
Автор: Келлі Борн (Kelly Born) – колишній директор Центру кіберполітики Стенфордського університету, є директором ініціативи «Демократія, права та управління» Фонду Девіда та Люсіль Паккард.
Джерело: IPG-Journal, ЄС
