Американська компанія Anthropic оголосила про запуск Fable 5 – нової версії своєї моделі штучного інтелекту Mythos. Модель не зможе виконувати запити, пов’язані з кібербезпекою та біологією.
У компанії пояснили, що для таких завдань система автоматично перенаправлятиме користувачів на іншу модель – Opus 4.8. Таким чином Anthropic прагне знизити ризики, які можуть виникати через використання потужних ШІ-систем у чутливих сферах.
Одночасно компанія випускає нову версію Mythos 5 без частини обмежень. Доступ до неї отримають лише учасники програми Project Glasswing. Наразі до проєкту залучено близько 200 організацій. Минулого тижня Anthropic додала до списку ще 150 компаній і установ.
Перед запуском Anthropic перевірила надійність захисних механізмів моделі. У межах зовнішньої програми пошуку вразливостей експерти понад тисячу годин намагалися обійти встановлені обмеження. Компанія повідомила, що універсального способу зламу захисту виявити не вдалося.
