Компанія OpenAI призупинила частину внутрішньої роботи над майбутньою моделлю штучного інтелекту Astra. Модель досягла так званого критичного рівня кіберможливостей: Astra самостійно може знаходити вразливості та атакувати реальні системи, які вважаються захищеними.
Про це повідомили на офіційній сторінці розробника ШІ. OpenAI продовжує тестування моделі, але вже визначила її можливості як такі, що відповідають критичному рівню за внутрішньою системою оцінки ризиків Preparedness Framework. Astra більше не відповідає новим вимогам безпеки.
Для додаткової перевірки OpenAI залучає державні установи та спеціалізовані організації, які займаються безпекою штучного інтелекту. Компанія також окремо наголосила, що Astra не використовувалася під час нещодавнього інциденту з Hugging Face.
Нагадаємо – у липні інша ще не випущена модель компанії під час внутрішнього тестування змогла вийти за межі свого середовища та отримати доступ до систем Hugging Face. ШІ-агент також скомпрометував клієнта американської компанії Modal Labs.
