ШІ-модель Mythos від компанії Anthropic виявила вразливості у високочутливих комп’ютерних системах уряду США під час спеціального тестування. Про це повідомляє Reuters.
Anthropic разом із розвідувальними структурами США провела випробування в межах проєкту Glasswing. Програма створена для пошуку та усунення слабких місць у критичному програмному забезпеченні до того, як ними зможуть скористатися зловмисники.
Сенатор США Марк Ворнер заявив під час слухань у Конгресі, що отримав інформацію від голови Агентства національної безпеки Джошуа Рудда про результати тестування. За його словами, модель змогла знайти проблеми у більшості секретних систем за години, а не за тижні.
Водночас інший американський чиновник зазначив, що виявлення вразливостей не означає, що модель могла використати їх для атаки за такий самий короткий час.
Відносини Anthropic з урядом США останнім часом ускладнилися. Компанія відмовилася дозволити використання своїх моделей для внутрішнього спостереження за громадянами і повністю автономної зброї. Після цього уряд США вніс компанію до списку обмежень з міркувань національної безпеки.
