Американська компанія Anthropic проведе консультації з Радою з фінансової стабільності G20 (Financial Stability Board – FSB) щодо ризиків своєї ШІ-моделі Claude Mythos. Розробники наразі не відкривають публічний доступ до моделі через побоювання, що її можливості можуть використовувати хакери.
Про це пише The Guardian. Mythos може знаходити невідомі вразливості в IT-системах. Зараз доступ до ШІ отримали лише окремі технологічні компанії та банки, серед яких Apple і JPMorgan Chase. Вони тестують модель для пошуку слабких місць у власній інфраструктурі.
Рада з фінансової стабільності підтвердила майбутні консультації з Anthropic. У структурі заявили, що зацікавлені у співпраці з компаніями, які працюють із передовими ШІ-технологіями та можуть впливати на глобальну фінансову стабільність.
Британський Інститут безпеки штучного інтелекту також перевірив нову версію Mythos. За оцінкою організації, модель продемонструвала помітний стрибок у кіберможливостях. Під час тестування ШІ вперше зміг виконати складний сценарій “cooling tower”, який раніше залишався нерозв’язаним для подібних систем.
Цікаво, що французький стартап у сфері штучного інтелекту Mistral AI веде переговори з європейськими банками щодо запуску власної моделі ШІ для кібербезпеки. Вона має стати альтернативою моделі Mythos від Anthropic.
