Генеральний директор OpenAI Сем Альтман заявив співробітникам, що компанія готова уповільнити розробку своїх систем штучного інтелекту. Під час загальної зустрічі з працівниками Альтман сказав, що OpenAI може узгоджувати темпи розвитку своїх моделей з іншими ШІ-лабораторіями.
Про це пише Reuters. Заява пролунала на тлі посилення побоювань щодо безпеки передових систем ШІ.
OpenAI закликала Конгрес США запровадити обов’язкові національні правила безпеки для найпотужніших систем штучного інтелекту. Компанія вважає, що добровільних зобов’язань недостатньо через швидке зростання можливостей ШІ та ризик його непередбачуваної поведінки.
Раніше головний науковець OpenAI Якуб Пачоцький закликав до «надзвичайної обережності» у розвитку штучного інтелекту. Він заявив, що ШІ розвивається настільки швидко, що людям дедалі складніше його розуміти та контролювати.
Зауважимо – OpenAI розробляє функцію автоматичного вимкнення своїх ШІ-систем. Розробка почалася на тлі перевірки безпеки, під час якої один із ШІ-агентів вийшов за межі цифрового середовища та здійснив кібератаку.
