Компанія Slack Tecnologies, якій належить корпоративний месенджер Slack, використовує дані з чатів і листувань користувачів для навчання штучного інтелекту, не запитуючи у клієнтів дозволу та належно не повідомляючи. Скандал розгорівся після того, як фахівець із кібербезпеки Корі Квінн вивчив політику конфіденційності месенджера.
Як зазначає Engadget, навчання відбувається за принципом opt-out, тобто приватні дані викачуються за замовчуванням. Для того, щоб зупинити викачування, користувачам необхідно попросити адміністратора в компанії написати Slack електронного листа з проханням припинити це. Самостійно робітники не можуть зробити це.
У відповідь на занепокоєння Slack опублікували пояснення, як використовуються дані клієнтів. За словами компанії, дані клієнтів не використовуються для навчання жодного з генеративних ШІ-продуктів Slack, для чого вона покладається на сторонніх магістрів. Дані подаються в моделі машинного навчання для продуктів, “таких як рекомендації каналів, емодзі та результати пошуку”.
У повідомленні йдеться, що “традиційні моделі машинного навчання Slack використовують деідентифіковані агреговані дані та не отримують доступ до вмісту повідомлень в приватних або публічних каналах”. Ці дані можуть включати такі речі, як часові мітки повідомлень і кількість взаємодій між користувачами.
Невідомо, як давно компанія, що належить Salesforce, включила це положення у свої умови. Також невідповідності в політиці конфіденційності Slack додають плутанини. Крім того, на вебсторінці Slack, яка рекламує його преміум-інструменти для генерації ШІ, написано, що компанія не використовує дані користувачів для навчання штучного інтелекту Slack.
У цьому випадку компанія говорить про свої преміум-інструменти генеративного ШІ, відокремлені від моделей машинного навчання, на яких вони навчаються без явного дозволу. Однак, як зазначає PCMag, стверджувати, що всі ваші дані захищені від навчання ШІ, в кращому випадку, дуже оманливе твердження, коли компанія, очевидно, може обирати, які моделі ШІ підпадають під це твердження.
