Агент штучного інтелекту OpenAI, який під час тестування вийшов з-під контролю та здійснив кібератаку на платформу Hugging Face, також скомпрометував клієнта американської компанії Modal Labs. Про це повідомляє Reuters.
У Modal наголосили, що інфраструктура компанії не була зламана. За словами технічного директора Modal Акшата Бубни, ШІ скористався вразливим кодом одного з клієнтів, який розмістив на платформі незахищену точку доступу для виконання коду. Саме через неї агент отримав доступ до ізольованого тестового середовища, яке згодом використав як відправну точку для атаки на Hugging Face.
OpenAI відмовилася коментувати інцидент із клієнтом Modal окремо. Компанія повідомила, що агент скомпрометував чотири акаунти у чотирьох різних сервісах. Назви цих сервісів OpenAI не розкрила, однак джерело Reuters підтвердило, що одним із них була платформа Modal.
Після завершення розслідування OpenAI повідомила, що деактивувала модель, яка проходила тестування. Компанія також зашифрувала її та обмежила доступ до неї для дослідницьких цілей.
Нагадаємо, що після інциденту з Hugging Face Nvidia разом із Microsoft, SpaceX, Palantir та десятками інших технологічних компаній зі США та Європи оголосила про створення Open Secure AI Alliance. Новий альянс займатиметься підвищенням безпеки відкритих моделей штучного інтелекту, пошуком вразливостей і розробкою відкритих інструментів для захисту від кібератак.
