Згідно з нещодавнім дослідженням компанії SentinelLabs, кіберзловмисники використали штучний інтелект GPT-4o mini від OpenAI для масштабної спам-кампанії, яка охопила понад 80 000 вебсайтів. Зловмисникам вдалося обійти стандартні механізми захисту, створюючи унікальні повідомлення, що не визначалися як типовий спам, передає mezha.media.
Кампанія тривала приблизно чотири місяці, починаючи з вересня 2024 року. Шахраї використовували фреймворк AkiraBot для автоматизації процесу, який надсилав спам через контактні форми та чат-віджети на сайтах жертв. Ключовим елементом схеми стали Python-скрипти, що забезпечували ротацію доменів та інтеграцію з GPT-4o mini для генерації персоналізованого контенту.
Особливістю цієї кампанії була її здатність адаптувати зміст повідомлень під кожен вебсайт-ціль. Штучний інтелект створював тексти, які містили згадки про конкретний сайт отримувача, що значно підвищувало шанси на проходження крізь фільтри захисту. Такий підхід давав враження, що повідомлення написані реальною людиною спеціально для цього ресурсу.
Після отримання інформації від SentinelLabs компанія OpenAI швидко відреагувала, заблокувавши обліковий запис зловмисників. Представники OpenAI наголосили, що подібне використання їхніх технологій прямо суперечить умовам користування послугами компанії.
Нагадаємо – компанія Adaptive Security, що працює у сфері кібербезпеки з використанням штучного інтелекту, оголосила про отримання інвестицій у розмірі $43 мільйони. Раунд фінансування очолили OpenAI та Andreessen Horowitz.
