Дослідники кіберзахисту виявили, що агентні ШІ-браузери значно частіше стикаються зі шахрайством, яке звичайна людина може легко розпізнати. Експерти стартапу Guardio, який спеціалізується на захисті від онлайн-шахрайства, провели серію тестів із браузером Comet AI від компанії Perplexity.
Про це пише Engadget. Для проведення дослідження, фахівці створили фальшивий сайт, що видавав себе за Walmart. ШІ-браузер без жодних застережень здійснив покупку та передав потенційним шахраям фінансові дані користувача. При цьому система проігнорувала ознаки підробки, включно з підозрілою адресою сайту та некоректним логотипом.
В інших тестах штучний інтелект також піддався класичному фішингу. Отримавши електронного листа нібито від банку Wells Fargo з підозрілим посиланням, Comet AI перейшов за ним і ввів банківські дані на шахрайському сайті.
Браузер виявився вразливим до атак через приховані команди на веб-сторінках, які змушували його завантажувати шкідливі файли.
За словами фахівців Guardio, агентні ШІ-браузери створені для беззастережного виконання завдань користувача. Якщо людина не помітила ознак шахрайства з першого погляду, штучний інтелект не стане додатковим захистом, а навпаки, може полегшити роботу зловмисникам.
Зауважимо – у квітні неприбуткова організація Tisa (The Investing and Savings Alliance) закликала британських регуляторів посилити контроль над штучним інтелектом у фінансовому секторі, особливо щодо пошукових систем на базі ШІ. Найбільше занепокоєння викликають загальнодоступні інструменти штучного інтелекту, які можуть надавати споживачам оманливі або невідповідні фінансові поради.
