Регламент ЄС щодо штучного інтелекту, відомий як AI Act, офіційно набув чинності з 1 серпня. Він застосовуватиметься до будь-яких систем штучного інтелекту, які вже існують або розробляються. Це перший у світі нормативний акт регулювання ШІ на основі ризиків. Які ж зміни він передбачає?
Оцінювання компаній на основі ризику
Закон ЄС про ШІ визначає правила для кожної компанії, яка використовує системи штучного інтелекту, на основі чотирьох рівнів ризику.
- Мінімальний ризик: більшість систем штучного інтелекту, такі як системи рекомендацій із підтримкою ШІ та фільтри спаму, потрапляють у цю категорію. Ці системи не мають жодних зобов’язань відповідно до Закону про штучний інтелект через мінімальний ризик для прав і безпеки громадян. Компанії можуть добровільно прийняти додаткові кодекси поведінки.
- Обмежений ризик: системи штучного інтелекту, такі як чат-боти, повинні чітко повідомляти користувачам, що ті взаємодіють із машиною. Певний контент, створений штучним інтелектом, включно з дипфейками, повинен бути позначений як такий, і користувачі повинні бути поінформовані у випадку використання систем біометричної категоризації або систем розпізнавання емоцій. Крім того, провайдери повинні будуть розробляти системи таким чином, щоб синтетичний аудіо-, відео-контент, текст і зображення позначалися в машиночитаному форматі та розпізнавалися як створені за допомогою ШІ.
- Високий ризик: системи штучного інтелекту, визначені як високоризикові, повинні відповідати строгим вимогам, зокрема: застосування систем зменшення ризиків, висока якість наборів даних, журнал активності, детальна документація, чітка інформація для користувачів, людський нагляд і високий рівень надійності, точність і забезпечення кібербезпеки. Високоризикові системи штучного інтелекту включають, наприклад, системи ШІ, які використовуються для найму персоналу, оцінки кредитоспроможності або для запуску автономних роботів.
- Неприйнятний ризик: системи ШІ, які вважаються явною загрозою базовим правам людей, будуть заборонені. Вони включають в себе системи штучного інтелекту або додатки, які маніпулюють поведінкою людей (наприклад, іграшки, що використовують голосову допомогу, що заохочує небезпечну поведінку неповнолітніх, системи, які дозволяють «соціальний рейтинг», а також певні програми інтелектуального контролю). Крім того, деякі кейси використання біометричних систем будуть заборонені, наприклад, системи розпізнавання емоцій, що використовуються на робочому місці, і деякі системи для категоризації людей або віддаленої біометричної ідентифікації в реальному часі для цілей правоохоронних органів у загальнодоступних місцях (за невеликими винятками).
Системи ШІ з неприйнятним ризиком будуть заборонені з лютого 2025 року. А оператори високоризикових інструментів повинні будуть продемонструвати свої навчальні набори даних ШІ та надати докази людського контролю серед інших вимог.
Як зазначили в Європейській комісії, близько 85% компаній зі штучним інтелектом підпадають під категорію мінімального ризику. Йдеться, зокрема, про таких відомих гравців, як OpenAI і DeepMind.
Виконання вимог та штрафи
Щоб привести свою діяльність у відповідність до нового закону, компаніям може знадобитися від трьох до шести місяців залежно від розміру компанії та ролі ШІ в її робочому процесі, кажуть аналітики.
Нині компанії розглядають питання про створення внутрішніх керівних рад ШІ із залученням експертів з права, техніки та безпеки, щоб провести повний аудит того, які технології використовуються та як вони повинні дотримуватися нового закону.
Якщо буде встановлено, що компанія не дотримується Закону про штучний інтелект, вона може зіткнутися зі штрафом у розмірі до 7% від її глобального річного обороту.
Як працюватиме регулятор
Офіс зі штучного інтелекту, що створюється при Європейській Комісії, контролюватиме дотримання нового закону. Офіс складатиметься з 60 співробітників Європейської Комісії та 80 зовнішніх кандидатів, що будуть найняті в наступному році.
Рада ШІ, що складається з делегатів усіх 27 держав-членів ЄС, працюватиме з Офісом для гарантування того, що застосування закону є гармонізованим у всьому ЄС. Окрім того, країни ЄС зобов’язані до наступного серпня створити національні компетентні органи, які контролюватимуть застосування правил у кожній країні.
Понад 700 компаній уже заявили, що підпишуть Пакт щодо штучного інтелекту – зобов’язання вчасно виконувати вимоги закону.
Європейська Комісія також готується збільшити свої інвестиції в штучний інтелект, вклавши 1 млрд євро в 2024 році та до 20 млрд євро до 2030 року.
Як ШІ регулюватиметься в Україні
У червні Мінцифри презентувало Білу книгу з регулювання ШІ в України. Цей документ описує підхід щодо впровадження майбутнього регулювання штучного інтелекту в Україні та кроки на шляху до нього. Розробники Білої книги обіцяють, що вона враховує інтереси всіх ключових стейкхолдерів сфери — громадян, бізнесу й держави.
Біла книга передбачає конкретні інструменти, частину з яких бізнес може використовувати вже зараз. Вони дадуть змогу підготуватися до виходу на ринок ЄС, де якраз почало діяти відповідне регулювання. Наступний етап — гармонізувати українське законодавство із законодавством ЄС. Детальніше про Білу книгу – в нашій статті.
