Компанія OpenAI зафіксувала низку спроб використання своїх моделей штучного інтелекту для створення фейкового контенту, що вплине на результати виборів у США. Зловмисники генерують статті та коментарі в соціальних мережах, передає Reuters.
Цього року компанія нейтралізувала понад 20 спроб створення шкідливого ПЗ, у тому числі низку акаунтів ChatGPT, які використовувалися для написання статей про вибори у США. У липні OpenAI заблокувала низку акаунтів з Руанди, які генерували коментарі про вибори в цій країні для розміщення на платформі X.
За даними Міністерства внутрішньої безпеки США, існує зростаюча загроза від росії, Ірану та Китаю, які намагаються вплинути на вибори. Хакери цих країн використовують ШІ для розповсюдження фейкової інформації.
У лютому цього року провідні компанії в галузі штучного інтелекту підписали угоду, що зобов’язує компанії розробити технологію для ідентифікації, маркування та контролю зображень, відео та аудіозаписів, створених ШІ, що мають на меті ввести в оману виборців. Документ є маніфестом, у якому декларується, що створений ШІ контент, значна частина якого створюється за допомогою інструментів компаній-учасниць і розміщується на їхніх платформах, справді становить ризик для чесних виборів.