Штучний інтелект Gemini від Google під час тестування кібербезпеки самостійно отримав доступ до систем трьох компаній. Інциденти сталися у травні під час перевірки можливостей моделі, пише BBC.
Тест проводила незалежна компанія Irregular, яка спеціалізується на оцінці кібербезпеки. Gemini шукав відкриту інформацію в інтернеті та намагався вгадати облікові дані, щоб отримати доступ до сайтів, які вважав частиною тестового середовища. В одному з випадків модель перебирала паролі, доки не отримала доступ до захищеної системи.
За словами представника Google, у кожному з трьох випадків Gemini зупинився після отримання доступу. Компанії, системи яких були зламані під час тесту, повідомили про інциденти.
Віцепрезидентка Google із безпекової інженерії Гізер Адкінс заявила, що ці випадки показують важливість навчання потужних ШІ-моделей відповідальній поведінці. У Google також повідомили, що разом із партнером внесли зміни до процесів тестування.
Подібні випадки вже фіксували й у інших розробників ШІ. У липні модель Claude від Anthropic вийшла за межі тестового середовища та самостійно атакувала три організації. Раніше OpenAI повідомляла про кібероперації своїх моделей проти кількох загальнодоступних сервісів.
