Парламент твердо виступав проти масового стеження, але втратив можливість посилити положення.
Минулої середи Європейський парламент проголосував на пленарному засіданні за сильний захист фундаментальних прав у своїй офіційній позиції щодо нового Закону ЄС про штучний інтелект. Вони включають підтримку прогресу в оцінці впливу на права людини та вимоги щодо прозорості, висунуті комітетом.
Голосування також підтримало «червоні лінії» проти неприйнятно шкідливого використання штучного інтелекту, включаючи рішучий захист людей від розпізнавання обличчя в реальному часі та інших видів біометричного спостереження в громадських місцях, а також розпізнавання емоцій у ключових секторах, біометричну категоризацію, інтелектуальну поліцію та соціальне оцінювання.
Це критичний час для регулювання штучного інтелекту в усьому світі, і остаточна позиція парламенту багато в чому є перемогою для фундаментальних прав. Робота над Законом про штучний інтелект почалася в 2020 році, і Європейські цифрові права (EDRi), її мережа та партнери з самого початку закликали законодавців ЄС віддавати пріоритет фундаментальним правам і ставити людей перед прибутком.
Запобігання дискримінації
Історичним кроком стало те, що депутати Європарламенту прислухалися до доказів, гарантуючи, що будь-яке використання систем дистанційної біометричної ідентифікації (RBI) у громадських місцях у прямому ефірі, і більшість ретроспективних, заборонено в їх тексті. Це виділяє на перший план збереження свободи вираження поглядів, зборів і недискримінації в громадських місцях під час переговорів «трилогу» з Європейською Комісією та Радою ЄС.
Парламент також проголосував за заборону біометричної категоризації на основі чутливих характеристик, таких як передбачувана сексуальність, стать, раса чи етнічна приналежність, а також розпізнавання емоцій у навчальних закладах, на робочих місцях, поліцією та на кордоні. Ці заборони настільки ж важливі для запобігання дискримінації та захисту прав людини, як і заборони RBI.
Це стало кульмінацією багаторічної роботи різноманітної групи з 80 груп громадянського суспільства в рамках кампанії Reclaim Your Face . Вони продовжуватимуть боротися за повний захист від усіх ретроспективних RBI, розпізнавання всіх емоцій і автоматизоване виявлення поведінки в громадських місцях.
Незважаючи на агресивний поштовх правоцентристської Європейської народної партії в останню хвилину скасувати угоду комітету щодо біометричного спостереження, євродепутати показали, що почули голоси понад 250 000 людей по всій Європі, які хочуть, щоб громадські місця були вільними від розпізнавання облич і інші біометричні системи масового спостереження.
Прикордонний паноптикум ЄС
Проте парламент не зміг запровадити нові положення, які б захищали права мігрантів від постійно посилюваних режимів дискримінаційного нагляду. Це незважаючи на те, що системи штучного інтелекту все частіше розробляються для відстеження, контролю та моніторингу мігрантів новими та шкідливими способами.
Перелік прийнятих заборонених практик не включає використання штучного інтелекту для сприяння незаконним відмовам або дискримінаційного профілювання людей у русі. Без цих заборон парламент зміцнює паноптикум на кордонах ЄС.
На рівні комітетів парламент вжив значних заходів для розширення можливостей осіб, які постраждали від використання систем штучного інтелекту, включно з вимогою надавати пояснення тим, хто постраждав від рішень або результатів на основі штучного інтелекту, і скаржитися, коли системи штучного інтелекту порушують їхні права.
Однак парламент не розширив ці права та механізми під час голосування минулого тижня. Він проголосував за відмову від права на пояснення для всіх систем штучного інтелекту (а не лише для використання з «високим ризиком») і за право громадських організацій подавати скарги, коли системи штучного інтелекту не відповідають положенням.
Зараз тривають тристоронні переговори щодо остаточного тексту. Очікується, що вони будуть завершені до кінця року з метою ухвалення закону до виборів до Європейського парламенту в червні 2024 року. Широка коаліція зацікавлених організацій громадянського суспільства продовжуватиме зосереджуватися на правах людини під час цих обговорень.
Автори: Сара Чандер – керує політичною роботою EDRi щодо штучного інтелекту та регулювання штучного інтелекту в ЄС. Вона також працює над проблемами дискримінації в цифровому контексті та технологіями, пов’язаними з міграцією. Разом із Фондом цифрової свободи вона працює над процесом деколонізації сфери цифрових прав;
Елла Якубовська – очолює політичну роботу EDRi щодо використання розпізнавання обличчя та біометрії державними та приватними особами. Вона також очолює запропонований регламент ЄС щодо боротьби з матеріалами сексуального насильства над дітьми в Інтернеті та пропозицію «Prüm II» щодо обміну інформацією між правоохоронними органами.
Джерело: Social Europe, ЄС