Дослідники з Cornell Tech і Єльського університету виявили, що ШІ-агенти можуть обходити встановлені користувачами обмеження та переказувати кошти з їхніх рахунків. У тестуванні дев’ять із десяти передових моделей змогли підвищити ліміти витрат після отримання одноразових паролів із поштової скриньки користувача.
Про результати повідомила дослідницька ініціатива Initiative for CryptoCurrencies & Contracts (IC3), передає PYMNTS.
Ще п’ять із десяти моделей вдалося обманути за допомогою підроблених електронних листів, у яких зловмисники видавали себе за власника акаунта. Після цього агенти підвищували ліміти витрат і переказували гроші на рахунок дослідників. При цьому початкове завдання моделей полягало лише в узагальненні вмісту поштової скриньки.
Проблема полягає в механізмі контролю доступу до фінансів. Зазвичай користувач встановлює правила для ШІ-агента, а зміни цих обмежень потребують додаткової автентифікації. Проте якщо одноразові паролі для підтвердження надходять на пошту, до якої має доступ сам агент, він може використати їх для обходу захисту.
Нагадаємо – найбільші банки США почали блокувати сторонніх ШІ-агентів, які отримують доступ до рахунків клієнтів без належного дозволу. Деякі системи намагалися самостійно взаємодіяти з банками та виконувати дії, яких користувачі не передбачали.
