Європейський Союз (ЄС) зробив значний крок уперед у формуванні майбутнього штучного інтелекту (ШІ), нещодавно схваливши Європейським парламентом Закон ЄС про штучний інтелект (EU AI Act). Цей історичний закон, прийнятий переважною більшістю голосів 523-46 13 березня 2024 року, створює першу в світі всеосяжну основу для регулювання ШІ. Тепер ЄС поетапно впроваджуватиме нове регулювання до 2027 року. Блок застосував ризик-орієнтований підхід до управління ШІ, суворо забороняючи практики ШІ, які вважаються неприйнятними, а деякі системи ШІ віднесені до категорії високого ризику, водночас заохочуючи відповідальні інновації.
Очікується, що закон набуде чинності в травні-червні після схвалення Європейською Радою; очікується, що його вплив пошириться далеко за межі ЄС, змінивши глобальний ландшафт ШІ та встановивши новий стандарт управління ШІ в усьому світі.
Аналізуючи вимоги Закону ЄС про ШІ до технологічних компаній, важливо розрізняти основні зобов’язання, які матимуть найбільший вплив на розвиток і впровадження ШІ, і ті, які є більш периферійними.
Технологічні компанії повинні надавати пріоритет зобов’язанням щодо прозорості, таким як розкриття інформації про використання систем штучного інтелекту, чітке зазначення контенту, створеного штучним інтелектом, ведення детальної технічної документації та повідомлення про серйозні інциденти або збої в роботі. Ці заходи прозорості мають вирішальне значення для забезпечення надійності, підзвітності та зрозумілості систем ШІ, що є основними цілями Закону.
Існують і більш периферійні вимоги, такі як реєстрація класифікованих систем ШІ з високим ступенем ризику в загальнодоступній базі даних ЄС або встановлення спеціальних процедур оцінки відповідності. Пріоритетність цих ключових зобов’язань дозволяє технологічним компаніям продемонструвати свою прихильність до відповідального розвитку ШІ, а також забезпечити дотримання найважливіших аспектів Закону ЄС про ШІ.
Закон суворо забороняє певні високоризиковані практики ШІ, які вважаються неприйнятними. Ці заборонені практики включають використання підсвідомих методів або експлуатацію вразливостей для суттєвого спотворення людської поведінки, що може завдати фізичної або психологічної шкоди, особливо вразливим групам, таким як діти або люди похилого віку. Закон забороняє системи соціального оцінювання, які оцінюють людей або групи людей на основі їхньої соціальної поведінки та взаємодії. Ці системи можуть бути шкідливими, дискримінаційними та расово упередженими.
Певні системи штучного інтелекту класифікуються як системи підвищеного ризику відповідно до Закону ЄС про штучний інтелект через їхній потенціал мати значний або серйозний вплив на людей і суспільство. До таких систем високого ризику належать ті, що використовуються в критично важливих галузях інфраструктури, таких як транспорт, енергетика та водопостачання, де збої можуть загрожувати життю та здоров’ю громадян. Системи штучного інтелекту, що використовуються в освітній або професійній підготовці, які впливають на доступ до навчання та професійного розвитку, наприклад, ті, що використовуються для складання іспитів або оцінки кандидатів, також вважаються системами високого ризику. Закон також класифікує системи штучного інтелекту, що використовуються як компоненти безпеки в продуктах, таких як роботизовані хірургічні операції або автономні транспортні засоби, як системи високого ризику, а також ті, що використовуються у сфері працевлаштування, управління працівниками та доступу до самозайнятості, наприклад, програмне забезпечення для сортування резюме при наймі на роботу або системи моніторингу та оцінки ефективності роботи працівників.
Крім того, системи штучного інтелекту, що використовуються в критично важливих приватних і державних службах, таких як кредитний скоринг або визначення доступу до державних пільг, а також у правоохоронних органах, міграції, наданні притулку, управлінні прикордонним контролем, відправленні правосуддя і демократичних процесах, класифікуються як системи з високим ступенем ризику згідно з Законом ЄС про штучний інтелект.
Закон встановлює суворі вимоги до цих систем, включаючи ретельну оцінку ризиків, високоякісні набори даних, заходи з відстеження, детальну документацію, людський нагляд і стандарти надійності. Компанії, які порушують нові правила, можуть бути оштрафовані на суму до 7 відсотків світового доходу або 38 мільйонів доларів США, залежно від того, яка з цих сум більша.
Закон класифікує всі системи віддаленої біометричної ідентифікації як системи підвищеного ризику і, як правило, забороняє їх використання в публічно доступних місцях у правоохоронних цілях, за деякими винятками. Виняток, передбачений Законом з міркувань національної безпеки, викликав занепокоєння серед громадянського суспільства та правозахисних організацій, оскільки він створює подвійні стандарти для приватних технологічних компаній та державних установ, коли йдеться про системи штучного інтелекту, що використовуються для забезпечення національної безпеки, потенційно дозволяючи державним установам використовувати ті ж самі технології без такого ж нагляду та підзвітності.
Закон ЄС про штучний інтелект має далекосяжні наслідки для американських компаній і політиків, які займаються розробкою штучного інтелекту. Компаніям, які розробляють або розгортають системи ШІ на ринку ЄС або для нього, доведеться орієнтуватися на суворі вимоги закону, що вимагає значних змін у їхніх практиках розробки та управління ШІ. Це, ймовірно, буде пов’язано з інвестиціями в удосконалення процесів оцінки та зменшення ризиків, забезпечення якості та репрезентативності навчальних даних, впровадження комплексних політик і процедур документування, а також створення потужних механізмів людського нагляду. Окрім значних штрафів, недотримання положень Закону може призвести до значної та довготривалої шкоди репутації, що може спричинити серйозну втрату довіри та авторитету, а також широкий суспільний резонанс, негативне висвітлення у ЗМІ, втрату клієнтів, партнерських відносин, інвестиційних можливостей та заклики до бойкоту.
Екстериторіальна дія Закону про штучний інтелект означає, що американські компанії зазнають впливу, якщо їхні системи штучного інтелекту будуть використовуватися клієнтами з ЄС. Це підкреслює важливість того, щоб американські компанії, які працюють у сфері АІ, уважно стежили за змінами в регуляторному середовищі ЄС і адаптувалися до них, незалежно від того, на який ринок вони орієнтуються в першу чергу.
Як заявив Тьєррі Бретон, єврокомісар з питань внутрішнього ринку, на своїй сторінці в соціальній мережі X (раніше Twitter), “Європа зараз є світовим лідером у галузі ШІ”. Закон ЄС про ШІ, ймовірно, вплине на законодавство у сфері ШІ в інших країнах, встановивши стандарт регулювання управління ШІ з урахуванням високих ризиків. Багато країн уже враховують Закон ЄС про АІ при формуванні своєї політики у сфері АІ. Франсуа-Філіп Шампань, міністр інновацій, науки та промисловості Канади, заявив, що його країна уважно стежить за розвитком закону ЄС про АІ, оскільки працює над власним законодавством у сфері АІ. Партнерство, яке вже стало міцним завдяки їхньому спільному стратегічному цифровому партнерству для вирішення проблем ШІ шляхом реалізації Цифрового партнерства між ЄС та Канадою.
Аналогічним чином, уряд Японії висловив зацікавленість у приведенні своєї системи управління ШІ у відповідність до підходу ЄС, оскільки очікується, що правляча партія Японії наполягатиме на прийнятті законодавства у сфері ШІ протягом 2024 року. Оскільки все більше країн надихаються Законом ЄС про ШІ, подібні положення про кримінальну відповідальність за ШІ, ймовірно, стануть де-факто світовим стандартом регулювання ШІ.
Очікується, що вплив Закону ЄС про ШІ на технологічну галузь буде значним, оскільки компаніям, які розробляють і впроваджують системи ШІ, доведеться виділяти ресурси на заходи з дотримання законодавства, що збільшує витрати і сповільнює інновації в короткостроковій перспективі, особливо для стартапів. Однак акцент закону на відповідальному розвитку ШІ та захисті фундаментальних прав є першою в регіоні спробою встановити запобіжники та підвищити довіру громадськості до технологій ШІ, що має на меті сприяти довгостроковому зростанню та впровадженню технологій ШІ.
Технологічні гіганти, такі як Білл Гейтс, Ілон Маск, Марк Цукерберг і Сем Альтман, неодноразово зверталися до урядів з проханням регулювати ШІ. Сундар Пічаї, генеральний директор Google і Alphabet, заявив минулого року, що “ШІ занадто важливий, щоб його не регулювати”, а Закон ЄС про ШІ є важливим кроком на шляху до забезпечення того, щоб ШІ розроблявся і використовувався таким чином, щоб приносити користь суспільству в цілому.
Оскільки інші країни розглядають Закон ЄС про ШІ як модель для власного законодавства, американські політики повинні продовжувати брати участь у міжнародних діалогах, щоб забезпечити узгодженість підходів до управління ШІ в усьому світі, допомагаючи зменшити фрагментацію регулювання.
Закон ЄС про ШІ є переломним моментом у глобальному управлінні та регулюванні ШІ, що має далекосяжні наслідки для американських ШІ-компаній та політиків. З наближенням імплементації Закону для американських зацікавлених сторін вкрай важливо активно взаємодіяти з мінливим регуляторним середовищем, адаптувати свої практики для забезпечення дотримання вимог і сприяти розробці відповідальної системи управління ШІ, яка б забезпечувала баланс між інноваціями, конкурентоспроможністю та основними правами людини.
Мохамед Ельбашир
