OpenAI закликала США очолити міжнародні зусилля зі створення технічних стандартів для штучного інтелекту. Компанія вважає, що країни мають узгодити спільні правила для безпечної розробки найпотужніших моделей.
Про це пише Bloomberg. OpenAI виступає за поєднання національних і міжнародних стандартів для розробки найбільш потужних систем. Компанія пропонує визначити:
- які інциденти за участю ШІ-моделей потрібно обов’язково повідомляти;
- як країни можуть обмінюватися інформацією про розвиток технології;
- як покращити доступ до обчислювальних ресурсів.
Окремо OpenAI запропонувала встановити правила для систем, які можуть самостійно виконувати складні завдання. Компанія заявила, що повністю автономне рекурсивне самовдосконалення ШІ не варто розвивати, доки не буде доведено можливість робити це безпечно. Йдеться про сценарій, за якого система самостійно змінює свій код або іншим способом підвищує власні можливості без участі людини.
Пропозиція OpenAI з’явилася на тлі зростання занепокоєння щодо безпеки передових моделей. OpenAI протягом кількох тижнів співпрацює з конкурентами Anthropic і Google DeepMind над питаннями безпеки штучного інтелекту.
