Рада з фінансової стабільності (FSB), наглядовий орган G20, який відповідає за оцінку ризиків для світової економіки, закликала фінансові установи запровадити додаткові механізми контролю за використанням автономних систем штучного інтелекту. У новому звіті організація попередила, що поширення так званого агентного ШІ може посилити ризики для глобальної фінансової системи.
Про це пише Reuters. Йдеться про системи, які здатні самостійно планувати дії, аналізувати ситуацію та виконувати завдання з мінімальним втручанням людини. Такі рішення вже використовуються у фінансовому секторі для виявлення шахрайства, обслуговування клієнтів та автоматизації внутрішніх процесів.
За даними опитування Cambridge Centre for Alternative Finance, 52% фінансових компаній уже впроваджують агентний ШІ. З них 23% використовують технологію у масштабних процесах або трансформують за її допомогою бізнес, ще 29% тестують окремі функції.
У FSB зазначають, що автономний ШІ може створювати ризики, які реалізуються дуже швидко. Серед них – несанкціоновані або незаконні дії, витоки даних, а також порушення роботи пов’язаних систем. Регулятор наголошує, що ШІ-агенти можуть ухвалювати рішення, які виходять за межі намірів компанії, а співробітники не завжди зможуть вчасно помітити проблему або втрутитися.
Щоб знизити ризики, FSB пропонує фінансовим установам визначати чіткі межі використання ШІ та впроваджувати запобіжники.
Нагадаємо: Anthropic закликала провідних розробників ШІ підготувати спільний механізм для уповільнення або тимчасового призупинення розвитку передових ШІ-систем. Такий крок може знадобитися, якщо можливості штучного інтелекту почнуть зростати швидше, ніж суспільство зможе контролювати пов’язані ризики.
