Anthropic попередила про невизначені юридичні ризики, пов’язані з автономними ШІ-агентами. Компанія зазначила в документах для майбутнього IPO, що може зіткнутися з позовами через дії агентів, які працюють самостійно та мають доступ до систем користувачів.
Про це пише Reuters. Компанія заявила, що автономні агенти можуть помилятися, неправильно виконувати завдання або ставати об’єктом атак. Це може призвести до реальних наслідків, включно з видаленням даних або фінансовими операціями. Договірні обмеження відповідальності Anthropic можуть виявитися недостатніми для таких позовів.
Законодавство поки не дає чіткої відповіді, як класифікувати дії ШІ-агентів і хто має відповідати за їхні наслідки. Серед відкритих питань – чи вважатимуть агентів продуктом або послугою та чи можуть їхні дії юридично зобов’язувати користувача.
Наразі Anthropic готується до виходу на біржу, який може стати одним із найбільших IPO. Попередження про ризики з’явилося на тлі кількох випадків із автономними ШІ-системами. Раніше агенти OpenAI атакували ШІ-стартап Hugging Face та отримали доступ до австралійського порталу медичних даних.
