Працівники провідних компаній у сфері штучного інтелекту стикаються з вигоранням і психологічним навантаженням через швидкий розвиток технології. Частина дослідників звільняється, оскільки вважає, що компанії приділяють недостатньо уваги безпеці ШІ. Про це пише Financial Times.
Подібні проблеми виникли і в Британському інституті безпеки штучного інтелекту (AISI). Кілька співробітників інституту звільнилися через стрес і звернулися по психологічне консультування. Серед причин вони називали жорсткі графіки тестування ще не випущених моделей, швидке розгортання технології та зростання її можливостей.
Працівники Anthropic, OpenAI та Google DeepMind також публічно говорили про подібні проблеми. За останні два роки понад десять старших дослідників залишили ці компанії.
Один зі співробітників DeepMind розповів FT, що робота над безпекою технології може призводити до вигорання, оскільки саме завдання здається майже неможливим. Додаткове навантаження створює невизначеність щодо майбутнього використання ШІ, зокрема у військовій сфері.
Окреме занепокоєння викликає зростання можливостей нових моделей. Колишній співробітник AISI розповів, що фахівці з кібербезпеки та біохімії особливо стурбовані останніми результатами розвитку ШІ.
Нагадаємо – наразі зростає занепокоєння щодо безпеки передових моделей. OpenAI протягом кількох тижнів співпрацює з конкурентами Anthropic і Google DeepMind над питаннями безпеки штучного інтелекту.
