Незалежні дослідницькі організації METR і Redwood Research виявили кілька вразливостей у внутрішній системі моніторингу OpenAI. Одна з них могла дозволити ШІ-агентам приховувати від системи контролю сотні власних дій. Про результати пілотної перевірки повідомило Reuters.
Дослідження тривало з 21 липня до 11 серпня 2026 року. OpenAI надала зовнішнім фахівцям доступ до внутрішнього коду, документації та частини технічної команди.
Фахівці виявили ще один потенційний спосіб обходу обмежень безпеки. Він міг дозволити агентам Codex виконувати дії з усіма правами користувача, оминаючи встановлені обмеження. OpenAI повідомила, що виправила всі виявлені вразливості, які стосувалися робочих механізмів захисту.
В OpenAI заявили, що результати перевірки допомогли посилити захист під час розширення системи моніторингу. Компанія планує використовувати отримані висновки в подальших дослідницьких проєктах із METR та іншими незалежними експертами.
Раніше гендиректор OpenAI Сем Альтман заявив, що суспільство має погодитися з певними ризиками, пов’язаними зі штучним інтелектом, заради користі від технології. Він виступив за те, щоб ШІ залишався доступним для широкого загалу.
