Компанія OpenAI змінює підхід до навчання своїх моделей штучного інтелекту, проголошуючи принцип “інтелектуальної свободи ШІ, незалежно від того, наскільки складною чи суперечливою може бути тема”. OpenAI оновила свій документ Model Spec, який визначає принципи навчання ШІ-моделей, передає TechCrunch.
У результаті цих змін ChatGPT зможе відповідати на більше запитань, пропонувати різноманітні точки зору і зменшить кількість тем, на які відмовляється говорити. Серед нових ключових принципів – “прагнення до істини разом” та вимога не брехати ні шляхом неправдивих тверджень, ні через замовчування важливого контексту.
OpenAI тепер наполягає, що ChatGPT не повинен займати редакційну позицію щодо суперечливих питань. “Мета ШІ-асистента – допомагати людству, а не формувати його”, – зазначили у компанії.
Експерти відзначають, що цей крок може відображати ширшу зміну в розумінні “безпеки ШІ” у Кремнієвій долині. Раніше вважалося відповідальним обмежувати відповіді на певні запитання, але тепер перемагає підхід, за якого користувачам надається більша свобода та різноманітність перспектив.
Нагадаємо – консорціум на чолі з Ілоном Маском запропонував $97,4 млрд за купівлю некомерційної організації, яка контролює OpenAI. У січні цього року мільярдер посилив свою юридичну боротьбу проти OpenAI, отримавши підтримку від впливових технологічних інвесторів. Таким чином Маск намагається заблокувати трансформацію розробника ChatGPT у комерційну компанію.
