Останні події свідчать про те, що політики та інші особи, які займають посади державної влади, більш ніж раді поступитися тотальним контролем корпораціям, які комерціалізують штучний інтелект. Знову ж таки, повернення коштів залишиться приватним, але будь-які майбутні витрати неминуче ляже на громадськість.
Протягом минулого місяця губернатор Каліфорнії Гевін Ньюсом наклав вето на законопроєкт про безпеку штучного інтелекту, а Королівська шведська академія наук присудила Нобелівську премію з хімії Девіду Бейкеру, професору Вашингтонського університету, а також Демісу Хассабісу та Джону М. Джамперу, співробітникам дочірньої компанії Google DeepMind та її дочірнього підрозділу Isomorphic Labs. Може здатися, що ці дві події мають мало спільного, але в сукупності вони свідчать про те, що передача майбутнього людства приватним корпораціям, які максимізують прибуток, є приводом для святкування.
Хоча законопроєкт Каліфорнії не був бездоганним, він став першою значною спробою притягнути розробників до відповідальності за потенційну шкоду, яку можуть завдати їхні моделі штучного інтелекту. Більше того, вона була зосереджена не лише на будь-якому ризику, а й на «критичній шкоді», як-от розробка зброї масового знищення або заподіяння збитків на суму щонайменше 500 мільйонів доларів.
Технологічна індустрія, в тому числі Google, люто лобіювала проти законопроєкту, висуваючи дуже старий аргумент. Як зазначила редакція Financial Times, нові правила можуть «загальмувати … поява інновації, яка могла б допомогти діагностувати захворювання, прискорити наукові дослідження та підвищити продуктивність». Знову ж таки, такі альтернативні витрати вважаються більш шкідливими, ніж будь-яка шкода, яку штучний інтелект може завдати здатності людей контролювати власну долю або навіть мирно жити у своїх суспільствах.
Нобелівська премія 2024 року знаменує собою перший випадок, коли премія в галузі природничих наук була присуджена співробітникам транснаціональної корпорації. Всі попередні лауреати були або були професорами університетів або дослідниками в науково-дослідних інститутах, що фінансуються урядом, і всі вони опублікували свої результати в рецензованих журналах і зробили свої висновки доступними для всього світу. Незалежно від того, планувала це Шведська академія чи ні, її рішення включити дослідників Google допомагає легітимізувати приватизацію науки, яка більше не є частиною спільного блага людства. Як і багато інших ресурсів до неї, наука про штучний інтелект укладена в огородженому саду, доступному лише тим, хто може заплатити за вхід.
Щоправда, модель штучного інтелекту AlphaFold2, яка принесла Hassabis і Jumper премію, разом із її вихідним кодом виклали у відкритий доступ. Згідно з AlphaFold.com, «Google DeepMind і Європейський інститут біоінформатики EMBL (EMBL-EBI) об’єдналися для створення AlphaFold DB, щоб зробити ці прогнози вільно доступними для наукової спільноти». З іншого боку, DeepMind має кілька патентів на AlphaFold. За логікою прав власності, останнє слово щодо використання технології завжди буде за компанією, а не громадськістю. Веб-сайт AlphaFold – це «.com», що позначає щось принципово відмінне, скажімо, від, скажімо, проекту «Геном людини» з його URL-адресою «.gov».
У світі інформаційних технологій «безкоштовне» ніколи не означає безкоштовне. Платежі здійснюються в даних, а не в доларах. Дані, які дозволяють AlphaFold передбачити тривимірну структуру білка, надходять із загального доступу. Партнером DeepMind у розробці AlphaFold є міжурядова дослідницька організація, яка фінансується більш ніж 20 країнами-членами Європейського Союзу. Згідно з Джампер, «публічні дані були важливими для розвитку AlphaFold». Без даних, які були зібрані та систематизовані вченими, які отримували за це гроші платників податків, не було б AlphaFold.
Незважаючи на передбачливість державних чиновників при створенні цієї величезної бази даних, уряди регулярно зазнають зневажень за відсутність знань, навичок, ресурсів і далекоглядності для просування інновацій і просування наукового та економічного прогресу. Нам постійно говорять, що тільки приватний сектор з його переконливими грошовими стимулами може зробити все необхідне, щоб рухати світ вперед.
Насправді приватний сектор регулярно отримує безкоштовний проїзд на роботу, виконану вченими, які були утримані державними коштами або найняті державними науково-дослідними інститутами. Перший супутник запустив уряд США, а не Ілон Маск; американські військові розробили Інтернет ще до того, як він був комерціалізований; А фармацевтичні компанії рідко інвестують у фундаментальні дослідження. Навіщо перейматися, якщо можна просто чекати, поки вчені, фінансовані Національним інститутом охорони здоров’я США або подібними агентствами, просунуть галузь до рівня, коли можна буде зробити вигідні інвестиції?
Така логіка корпорацій, які прагнуть до прибутку. Їх мета – фінансова віддача, а не людський прогрес. Потрапивши в гру, вони намагаються монополізувати наукові знання, отримуючи патенти або приховуючи свої висновки за бар’єрами, що забезпечуються законом про комерційну таємницю. Без допомоги держави вони не мали б ані фундаментальної науки, ані правового захисту монополій, які забезпечують їм великі прибутки, які вони потім висувають як доказ своєї переваги над урядом.
Неважко зрозуміти, чому приватним компаніям подобається ця гра. Загадка полягає в тому, чому уряди охоче грають на руку промисловості, передаючи роки досліджень, фінансованих державою, не гарантуючи, що громадськість має право голосу при визначенні того, як їх використовувати. Законодавство Каліфорнії передбачало, що моделі штучного інтелекту включають здатність до повного відключення в разі, якщо щось піде не так, але це положення було скасовано разом з рештою законопроекту.
Немає нічого нового в аргументі про те, що якщо ми недостатньо знаємо про майбутні збитки, ми повинні утримуватися від втручання в діяльність «приватних» ринків, які завжди працюють краще без державного «втручання».
Нафтогазові компанії покладалися на неї, заперечуючи ризик зміни клімату та свій внесок у неї, навіть якщо їхні власні дослідження свідчили про протилежне. І ось ми знову. Очевидно, що ми повинні віддати своє майбутнє в руки приватних корпорацій, єдиною метою яких є максимізація акціонерної вартості. Що може піти не так?
Автор: Катаріна Пістор, професорка порівняльного права в Колумбійській школі права, є авторкою книги «Кодекс капіталу: як закон створює багатство та нерівність» (Видавництво Прінстонського університету, 2019).
Джерело: PS, США