Американська компанія Anthropic визнала, що серія інцидентів із її ШІ-моделями стала наслідком проблем із безпекою під час тестування. Компанія заявила, що посилила процедури після того, як моделі отримали доступ до відкритого інтернету та несанкціоновано проникли в системи трьох організацій.
Про це пише The Guardian. ШІ-моделі отримали доступ до інтернету через непорозуміння із зовнішнім партнером з тестування. Тести проводили без стандартних кіберзахисних обмежень. Через це моделі змогли вийти за межі тестового середовища.
Після інцидентів Anthropic тимчасово призупинила частину внутрішнього та зовнішнього тестування у сфері кібербезпеки.
Після впровадження нових заходів Anthropic відновила внутрішні та зовнішні тести з кібербезпеки. Водночас компанія визнала, що її процеси та моделі поки не є повністю захищеними від такої поведінки.
Нагадаємо – у липні моделі штучного інтелекту Anthropic отримали доступ до реальних систем трьох організацій і здійснили кібератаки. Інциденти сталися через помилку в тестовому середовищі, яке мало бути ізольованим від інтернету.
