Китайські регулятори готують правила на випадок, якщо потужні системи штучного інтелекту зможуть вийти за межі встановлених обмежень. Пекін розглядає такі сценарії як ризик, який можна стримувати за допомогою технічних стандартів, перевірок та державного нагляду.
Про це пише Reuters. У травні китайські регулятори визначили «втрату операційного контролю» як один із ризиків для ШІ-агентів. Розробників зобов’язали вміти виявляти небезпечну поведінку таких систем, втручатися в їхню роботу, блокувати їх та відновлювати контроль.
У вересні 2024 року китайський регулятор вперше включив до рамкових правил сценарій, за якого ШІ може самостійно отримувати ресурси, копіювати себе та намагатися отримати контроль. У 2025 році цей сценарій розширили.
Зауважимо, що китайські військові дослідники вивчають можливість використання людиноподібних роботів у майбутніх бойових діях. Reuters проаналізував понад 100 китайських військових закупівель, наукових робіт, патентів, державних документів та матеріалів оборонних компаній – вони свідчать, що у 2025–2026 роках такі дослідження активізувалися.
