Китайський кіберрегулятор оприлюднив проєкт правил, які посилюють нагляд за сервісами штучного інтелекту, здатними імітувати людську особистість і вступати з користувачами в емоційну взаємодію. Про це повідомляє Reuters.
Нові вимоги стосуються ШІ-продуктів і сервісів, що відтворюють людські риси характеру, стилі мислення та комунікації. Такі системи взаємодіють з користувачами через текст, зображення, аудіо, відео або інші формати та здатні формувати емоційний зв’язок.
Проєкт правил передбачає, що провайдери таких сервісів мають попереджати користувачів про ризики надмірного використання і втручатися у разі ознак залежності. Компанії також зобов’яжуть нести відповідальність за безпеку на всіх етапах життєвого циклу продукту.
Постачальники ШІ повинні виявляти емоційний стан користувачів, оцінювати рівень їхньої залежності від сервісу та вживати заходів у разі фіксації крайніх емоцій або адиктивної поведінки.
Нагадаємо – Китай вперше обігнав США за кількістю завантажень «відкритих» моделей штучного інтелекту, свідчать результати спільного дослідження Массачусетського технологічного інституту та стартапу Hugging Face. Частка завантажень нових китайських моделей зросла до 17% за рік, тоді як американські розробники, зокрема Google, Meta та OpenAI, мають 15,8%.
