Компанія Anthropic закликала провідних розробників штучного інтелекту підготувати спільний механізм для уповільнення або тимчасового призупинення розвитку передових ШІ-систем. Такий крок може знадобитися, якщо можливості штучного інтелекту почнуть зростати швидше, ніж суспільство зможе контролювати пов’язані ризики.
Про це пише Reuters. Особливе занепокоєння у компанії викликає сценарій, за якого ШІ-системи зможуть самостійно створювати своїх наступників. На думку Anthropic, це стане одним із найважливіших технологічних проривів в історії. Водночас це може підвищити ризик втрати контролю над такими системами.
Anthropic наголосила, що зі зростанням можливостей штучного інтелекту питання безпеки стають ще важливішими. Станом на травень понад 80% коду, який додається до її програмної бази, написала модель Claude.
Розробник ChatGPT, компанія OpenAI, у грудні минулого року заявила, що майбутні покоління її моделей ШІ можуть становити високий ризик для кібербезпеки. Щоб зменшити ризики, OpenAI інвестує у посилення моделей для захисних кіберзавдань та розробку інструментів, які спростять аудит коду і виявлення вразливостей.
Нагадаємо – принц Гаррі та його дружина Меган Маркл увійшли до групи відомих науковців, політичних діячів та публічних осіб, які закликали призупинити розробку надрозумного штучного інтелекту, так званого суперінтелекту.
