OpenAI закликала Конгрес США запровадити обов’язкові національні правила безпеки для найпотужніших систем штучного інтелекту. Компанія вважає, що добровільних зобов’язань недостатньо через швидке зростання можливостей ШІ та ризик його непередбачуваної поведінки, пише Reuters.
Розробник ШІ пропонує запровадити стандарти тестування, незалежні оцінювання, вимоги до кібербезпеки та обов’язкове повідомлення про інциденти. Компанія також закликала Конгрес ухвалити відповідні правила до завершення поточної сесії в грудні.
Паралельно OpenAI підтримала чотири законопроєкти в Каліфорнії. Два передбачають незалежне оцінювання та аудит ШІ-систем, інші два стосуються захисту від біологічних загроз за допомогою ШІ та безпеки дітей під час використання чатботів.
Раніше головний науковець OpenAI Якуб Пачоцький закликав до «надзвичайної обережності» у розвитку штучного інтелекту. Він заявив, що ШІ розвивається настільки швидко, що людям дедалі складніше його розуміти та контролювати.
Зауважимо – OpenAI розробляє функцію автоматичного вимкнення своїх ШІ-систем. Розробка почалася на тлі перевірки безпеки, під час якої один із ШІ-агентів вийшов за межі цифрового середовища та здійснив кібератаку.
