Іспанський банк BBVA співпрацює з Nvidia над підвищенням безпеки ШІ-агентів у фінансовому секторі. Компанії вивчають, як вбудувати механізми контролю та управління ризиками в такі системи ще на етапі розробки.
Як повідомили у BBVA, співпраця передбачає дослідження архітектури OpenShell Reference Architecture від Nvidia. Вона допомагає запускати ШІ-агентів у корпоративній інфраструктурі, контролювати їхні дії та обмежувати операції, що виходять за встановлені межі.
У BBVA наголошують, що самого контролю на етапі розробки недостатньо. ШІ-агенти можуть самостійно виконувати послідовність дій, отримувати інформацію та використовувати зовнішні інструменти. Тому банки мають відстежувати їхні рішення й дії під час роботи.
Глобальний директор із безпеки BBVA Валентін Санчес заявив, що банк розширює використання ШІ-агентів і вважає їхню безпеку пріоритетом. У Nvidia зазначили, що чіткі обмеження та постійний нагляд мають супроводжувати розширення автономності таких систем.
Раніше стало відомо, що іспанський банк Santander об’єднав зусилля з Nvidia для розробки інструментів оцінювання моделей штучного інтелекту та ШІ-агентів для банківської сфери.
