У 2018 році компанія запровадила політику, яка виключала застосування ШІ способами, що “можуть завдати загальної шкоди”. Тепер цієї обіцянки більше немає.
У вівторок компанія Google оновила свої етичні принципи щодо штучного інтелекту, видаливши зобов’язання не застосовувати цю технологію для озброєння або спостереження.
Принципи компанії щодо штучного інтелекту раніше включали розділ з переліком чотирьох “застосувань, які ми не будемо використовувати”. Згідно з копією, розміщеною в Інтернет-архіві, нещодавно, у четвер, до них увійшли зброя, спостереження, технології, які “завдають або можуть завдати загальної шкоди”, а також випадки використання, що суперечать принципам міжнародного права і правам людини.
Представник Google відмовився відповідати на конкретні запитання про політику компанії щодо зброї і стеження, але послався на блог, опублікований у вівторок керівником відділу штучного інтелекту Демісом Хассабісом і старшим віце-президентом компанії з питань технологій і суспільства Джеймсом Манькою.
Керівники компанії написали, що Google оновлює свої принципи роботи зі штучним інтелектом, оскільки ця технологія стала набагато поширенішою і виникла потреба в тому, щоб компанії, які базуються в демократичних країнах, обслуговували клієнтів, пов’язаних з урядом і національною безпекою.
“Відбувається глобальна конкуренція за лідерство в галузі ШІ в умовах дедалі складнішого геополітичного ландшафту. Ми вважаємо, що демократичні країни повинні лідирувати в розробці ШІ, керуючись такими основними цінностями, як свобода, рівність і повага до прав людини”, – пишуть Хассабіс і Маньяка. “І ми вважаємо, що компанії, уряди та організації, які поділяють ці цінності, повинні працювати разом над створенням ШІ, який захищає людей, сприяє глобальному зростанню і підтримує національну безпеку”.
Оновлена сторінка принципів ШІ Google містить положення про те, що компанія використовуватиме людський нагляд і отримуватиме зворотний зв’язок, щоб гарантувати, що її технологія використовується відповідно до “загальноприйнятих принципів міжнародного права і прав людини”. У принципах також сказано, що компанія тестуватиме свою технологію, щоб “пом’якшити ненавмисні або шкідливі наслідки”.
Хассабіс приєднався до Google у 2014 році після того, як компанія придбала DeepMind, стартап у сфері штучного інтелекту, співзасновником якого він був. В інтерв’ю 2015 року він сказав, що умови придбання передбачали, що технологія DeepMind ніколи не буде використовуватися у військових цілях або для спостереження.
Принципи Google, що обмежують використання ШІ в інтересах національної безпеки, зробили компанію аутсайдером серед провідних розробників ШІ.
Наприкінці минулого року компанія OpenAI, розробник ChatGPT, заявила, що співпрацюватиме з військовим виробником Anduril над розробкою технології для Пентагону. Компанія Anthropic, яка пропонує чат-бота Claude, оголосила про партнерство з оборонним підрядником Palantir, щоб допомогти розвідувальним і оборонним відомствам США отримати доступ до версій Claude через Amazon Web Services.
Технологічні гіганти-суперники Google – Microsoft і Amazon – вже давно співпрацюють з Пентагоном. Засновник Amazon Джефф Безос володіє газетою The Washington Post.
“Заява Google є ще одним доказом того, що відносини між технологічним сектором США і [Міністерством оборони] продовжують тіснішати, включаючи провідні компанії зі штучного інтелекту”, – сказав Майкл Горовіц, професор політології в Університеті Пенсильванії, який раніше працював над новітніми технологіями для Пентагону.
За його словами, штучний інтелект, робототехніка і пов’язані з ними технології стають все більш важливими для американських військових, і уряд США співпрацює з технологічними компаніями, щоб зрозуміти, як такі технології можуть бути використані відповідально. “Цілком логічно, що Google оновив свою політику, щоб відобразити нову реальність”, – сказав Горовіц.
Ліллі Ірані, професор Каліфорнійського університету в Сан-Дієго і колишній співробітник Google, сказала, що заяви керівництва у вівторок не були новиною.
За словами Ірані, колишній генеральний директор Google Ерік Шмідт роками розпалював побоювання, що Сполучені Штати ризикують бути витісненими Китаєм у сфері штучного інтелекту, а початкові принципи компанії щодо штучного інтелекту також стверджували, що вона поважатиме міжнародне право та права людини. “Але ми бачили, як ці обмеження регулярно порушуються державою США, – сказала вона. “Це можливість нагадати собі про порожнечу обіцянок Google”.
Зміна політики Google – це крок компанії, який відповідає думці технологічної індустрії, втіленій головним радником президента Дональда Трампа Ілоном Маском, про те, що компанії повинні працювати на користь національних інтересів Сполучених Штатів. Це також слідує за кроками технологічних гігантів, які публічно дезавуюють свою попередню прихильність до расової та гендерної рівності та різноманітності робочої сили – політики, проти якої виступає адміністрація Трампа.
Пошуковий гігант також був серед технологічних компаній і керівників, які зробили мільйонні пожертви інавгураційному комітету Трампа. Генеральний директор Google Сундар Пічаї був серед технологічних лідерів, яким було надано почесні місця на церемоніях у день інавгурації.
Google і технологія штучного інтелекту нещодавно опинилися в центрі геополітичної напруженості між Сполученими Штатами і Китаєм. Невдовзі після того, як тарифи Трампа на китайський імпорт набули чинності у вівторок, Пекін оголосив про антимонопольне розслідування щодо Google, а також про відповідні тарифи на деякі американські товари.
Минулого тижня китайський стартап DeepSeek розпалив побоювання, що Сполучені Штати втрачають лідерство в галузі ШІ, випустивши безкоштовну версію програми-асистента, схожої на ChatGPT від OpenAI.
Google вперше опублікував свої принципи роботи зі штучним інтелектом у 2018 році після того, як працівники протестували проти контракту з Пентагоном, який передбачав використання алгоритмів комп’ютерного зору Google для аналізу знімків, зроблених дронами. Тисячі працівників підписали відкритого листа до генерального директора Google, в якому йшлося: “Ми вважаємо, що Google не повинен займатися військовим бізнесом”.
На додаток до впровадження принципів ШІ, Google також вирішив не продовжувати контракт з Пентагоном, відомий як Project Maven
Інвестори та керівники оборонного сектору Кремнієвої долини, що стрімко розвивається, часто називають протистояння працівників Google проти проекту Maven переломним моментом у розвитку галузі.
Деякі працівники Google також протестували проти поточного контракту на хмарні обчислення, який компанія уклала з урядом Ізраїлю, стверджуючи, що це може призвести до того, що технологія штучного інтелекту Google сприятиме політиці, яка шкодить палестинцям. Нещодавно газета The Post повідомила, що внутрішні документи свідчать про те, що Google надала Міністерству оборони Ізраїлю та Армії оборони Ізраїлю ширший доступ до своїх інструментів штучного інтелекту після того, як ХАМАС атакував Ізраїль 7 жовтня 2023 року.