OpenAI заявила, що її нова модель штучного інтелекту Astra потребує додаткових заходів безпеки перед запуском. Компанія виявила, що модель може знаходити більше кіберуразливостей, ніж найпотужніша модель OpenAI, доступна зараз.
Про це пише Reuters. За словами віцепрезидентки OpenAI з питань безпеки Амелії Глейз, за наявності відповідних інструментів і доступу Astra може знаходити раніше невідомі вразливості.
Модель також здатна розробляти способи їх використання у добре захищених системах без постійного контролю людини. Через це OpenAI планує застосувати до неї посилені обмеження.
Компанія має намір найближчим часом надати Astra обмеженій групі користувачів. Точну дату запуску та кількість користувачів OpenAI не назвала. Додаткові заходи безпеки можуть іноді сповільнювати або зупиняти легітимні завдання, однак компанія планує мінімізувати такі випадки.
Раніше ми повідомляли, що OpenAI призупинила частину внутрішньої роботи над Astra.
