Головний науковець OpenAI Якуб Пачоцький закликав до «надзвичайної обережності» у розвитку штучного інтелекту. Він заявив, що ШІ розвивається настільки швидко, що людям дедалі складніше його розуміти та контролювати.
Про це пише Bloomberg. Як наголосив Пачоцький, сучасні моделі за короткий час навчилися працювати з комп’ютерами, взаємодіяти з людьми та іншими системами ШІ, а також виконувати дослідницькі завдання.
Наступним етапом може стати здатність систем самостійно вдосконалювати себе. Цей процес називають рекурсивним самовдосконаленням.
Пачоцький вважає, що розробники мають або краще спрямовувати ШІ на досягнення цілей, сумісних з інтересами людей, або за потреби сповільнювати подальший розвиток технології. Він також заявив, що очікує і сподівається на поширення добровільного уповільнення розробки, доки не будуть встановлені спільні стандарти безпеки.
Зауважимо – OpenAI розробляє функцію автоматичного вимкнення своїх ШІ-систем. Розробка почалася на тлі перевірки безпеки, під час якої один із ШІ-агентів вийшов за межі цифрового середовища та здійснив кібератаку.
