Закон про штучний інтелект: нові правила використання штучного розуму

Вже найближчим часом в Європейському Союзі набере законної сили закон «Про штучний інтелект» («Закон про ШІ»), який буде першим в світі, що закладатиме принципи регулювання системи штучного інтелекту відповідно до підходу, що ґрунтується на оцінці ризику. Цей закон встановлюватиме спільну нормативно-правову базу для штучного інтелекту в Європейському Союзі, а також створює Європейську раду зі штучного інтелекту (AI Office) для сприяння співпраці між всіма країнами – членами ЄС та забезпечення дотримання правил та законних вимог у сфері використання ШІ.

Закон «Про штучний інтелект»: основні цілі

Головною ціллю, яку декларує новий закон, є складання комплексної законодавчої бази, спрямованої на розробку, маркетингу і використання штучного інтелекту в Європейському Союзі, що відповідатиме європейським цінностям. Окрім того, закон покликаний сприяти використанню надійного штучного інтелекту, орієнтованого на людину, одночасно забезпечуючи високий рівень захисту її здоров’я, безпеку та фундаментальні права, включаючи демократію, верховенство права та захист навколишнього середовища, а також зменшувати негативний вплив на системи штучного інтелекту, що оперують в Європі.

Основними викликами, які ставить перед собою новий закон є:

 Захист фундаментальних прав на захист особистих даних, приватного життя та конфіденційності комунікацій шляхом стабільної та відповідальної обробки даних в рамках функціонування систем штучного інтелекту.

• Сприяння розвитку і конкурентоспроможності в екосистемі штучного інтелекту.
• Побудова розуміння взаємодії між новим законом про ШІ та існуючими правилами, що застосовуються до штучного інтелекту, зокрема щодо захисту даних, інтелектуальної власності та управління даними.
• Впровадження нагляду та правозастосування нових норм всіма зацікавленими сторонами.
• Розробка та впровадження відповідних міждисциплінарних структур управління в організаціях, що так чи інакше приймають участь в розвитку та впровадженні штучного інтелекту.

Ключові особливості Закону про ШІ

 Одними з колючих особливостей, які включає перед собою новий закон є:

• Прозорість. Такі вимоги висуваються до певних систем штучного інтелекту, наприклад, якщо існує явний ризик маніпуляцій, наприклад, через використання чат-ботів. Користувачі повинні знати, що вони взаємодіють з машиною.
• Оцінка відповідності. Повинні відбувати сертифікаційні перевірки щодо розміщення штучного інтелекту на ринку ЄС або під час суттєвої модифікації систем штучного інтелекту з високим ризиком. Імпортери систем штучного інтелекту також повинні будуть переконатися, що іноземний постачальник вже здійснив відповідну сертифікаційну перевірку.
• Оцінка впливу на основні права. Перед розгортанням, розробники систем штучного інтелекту з високим ризиком і державні органи, які розгортають системи штучного інтелекту, повинні оцінити вплив цих систем на основні права людей (FRIA). Якщо потрібна оцінка впливу на захист даних, FRIA слід проводити разом із оцінкою впливу на захист даних (DPIA).
• Генеративний штучний інтелект. Постачальники, які генерують синтетичне аудіо, зображення, відео або текстовий вміст, повинні гарантувати, що вміст позначено у форматі, який зчитується машиною, і його можна виявити як штучно створений або оброблений

Визначення та класифікація систем штучного інтелекту

У відповідності з новим законом про ШІ, система штучного інтелекту – це автоматизована система, призначена для роботи з різними рівнями автономності, яка може демонструвати адаптивність після розгортання та яка для явних або неявних цілей робить висновок із вхідних даних, які вона отримує. Це може включати як генерування результатів, так і передбачення, рекомендації або рішення, які можуть впливати фізичне або віртуальне середовище.

Окрім цього, передбачається можливість класифікації систем штучного інтелекту за рівнем ризику та вимогами до розробки, розгортання та використання штучного інтелекту, в залежності від класифікації ризику для прав, свобод та приватності фізичних осіб.

Розрізняються такі системи штучного інтелекту:

Системи штучного інтелекту з неприпустимим ризиком. До таких систем відносяться ті, які містять обмежений набір особливо шкідливих видів використання ШІ, які суперечать цінностям ЄС, оскільки порушують основні права. До них належать:

• Соціальні кредитні скорингові системи.
• Системи розпізнавання емоцій на роботі та в навчанні.
• Системи, що використовують людей з особливими вадами, наприклад їх вік або інвалідність.
• Системи, що включають маніпулювання поведінкою в обхід свободи волі людей.
• Системи, спрямовані нецільове сканування зображень обличчя для розпізнавання обличчя.
• Біометричні системи категоризації, які використовують певні чутливі характеристики.
• Спеціальні інтелектуальні поліцейські програми.
• Системи, що дозволяють правоохоронним органам використовувати біометричну ідентифікацію в режимі реального часу в громадських місцях, окрім обмежених, дозволених ситуацій.

Новий закон про ШІ повністю забороняє використання на території Європейського Союзу систем штучного інтелекту з неприпустимим ризиком.

Системи штучного інтелекту з високим ризиком. До таких систем відносяться ті, які становлять значний ризик для здоров’я, безпеки чи основних прав та свобод, включно з такими категоріями:

• Системи, імплементовані в медичні вироби.
• Системи, імплементовані в транспортні засоби.
• Системи розпізнавання емоцій.
• Системи, що використовують правоохоронні органи.

Системи з високим ризиком дозволяються, але разом з тим з тим, встановлюються певні вимоги, що повинні гарантувати: якість даних; ведення документації та відстеження; прозорість; людський нагляд; кібербезпеку і надійність системи; проведення вчасних та якісних оцінок відповідності; реєстрації в публічному реєстрі ЄС (якщо система розгортається органами державної влади).

Системи штучного інтелекту з низьким ризиком. До таких систем відносяться інші системи штучного інтелекту, які становлять мінімальний ризик або не становлять жодного ризику для фізичних осіб.

Використання таких систем передбачають від постачальників таких систем гарантувати, що системи, які взаємодіють з окремими особами, розроблені таким чином, щоб забезпечити користувачам можливість знати, що вони взаємодіють із системою штучного інтелекту. Постачальники можуть добровільно взяти на себе зобов’язання дотримуватися галузевих кодексів поведінки.

Моделі штучного інтелекту загального призначення. До таких систем відносяться моделі штучного інтелекту, які демонструють значну загальність, здатні компетентно виконувати широкий спектр окремих завдань, незалежно від того, як вони розміщуються на ринку, і можуть бути інтегровані в різноманітні подальші системи або програми.

Використання моделей штучного інтелекту загального призначення передбачає, що постачальники таких моделей зобов’язані:  Провести FRIA та оцінку відповідності; впровадити системи управління ризиками та управління якістю для постійної оцінки та пом’якшення системних ризиків; інформувати людей, коли вони взаємодіють із штучним інтелектом; тестувати та контролювати точність, надійність і кібербезпеку. Моделі штучного інтелекту загального призначення із системними ризиками підлягають більшим вимогам до тестування та звітності.

Виконання закону та штрафи

Новостворена Європейська раду зі штучного інтелекту контролюватиме системи штучного інтелекту на основі моделі штучного інтелекту загального призначення, де модель і система надаються одним постачальником. Цей орган матиме повноваження органу нагляду в рамках відповідного ринку. Національні органи ринкового нагляду відповідатимуть за нагляд за всіма іншими системами штучного інтелекту.

Європейська раду зі штучного інтелекту працюватиме над координацією управління між країнами – членами ЄС та контролюватиме дотримання правил, пов’язаних із штучним інтелектом загального призначення.

Органи влади держав-членів встановлять правила щодо штрафів та інших примусових заходів, включаючи попередження та немонетарні заходи. Разом з тим, фізичні особи будуть мати можливість подати скаргу про порушення до національного компетентного органу.

Варто наголосити, що новий закон про ШІ відшкодування індивідуальних збитків не передбачає, однак передбачено покарання для постачальників у наступному вигляді:

• Порушення використання заборонених видів штучного інтелекту може потягнути за собою штраф в розмірі до 7% річного обороту компанії або 35 мільйонів євро.
• Порушення, що стосуватимуться інших питань використання штучного інтелекту – до 3% річного обороту або 15 мільйонів євро.
• Надання невірної інформації органам влади, до 1% річного обороту або 7,5 мільйонів євро.

Отже, підводячи підсумок, варто зазначити, що новий закон про ШІ це перш за все інноваційний регулятивний інструмент, який надасть можливість привести до спільного розуміння можливість використання штучного інтелекту на території Європейського Союзу, а також зрозуміти наслідки для компаній, які будуть порушувати нові правила.