Технологічні гіганти Google, OpenAI, Roblox та Discord оголосили про створення некомерційної організації ROOST (Robust Open Online Safety Tools), метою якої є покращення безпеки дітей в інтернеті. Ініціатива передбачає розробку безкоштовних інструментів на базі штучного інтелекту для виявлення та боротьби з матеріалами, пов’язаними з сексуальною експлуатацією дітей.
Про це інформує The Verge. За словами колишнього генерального директора Google Еріка Шмідта, створення організації частково зумовлене змінами, які штучний інтелект вніс в онлайн-середовище. ROOST планує зробити основні технології безпеки більш доступними для компаній та об’єднати існуючі рішення в єдину систему.
Ініціатива з’явилася на тлі серйозної регуляторної боротьби щодо безпеки дітей у соціальних мережах. За даними Національного центру зниклих та експлуатованих дітей (NCMEC), кількість підозр щодо експлуатації дітей зросла на 12% між 2022 та 2023 роками. Особливо гострою проблема стала для платформ Roblox та Discord, яких раніше критикували за недостатній захист неповнолітніх користувачів.
Організація вже залучила понад $27 мільйонів на перші чотири роки роботи від таких благодійних фондів як McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation та AI Collaborative. До роботи ROOST будуть залучені експерти з дитячої безпеки, штучного інтелекту та протидії екстремізму.
Компанії-засновники надаватимуть як фінансування, так і власні технології та експертизу. ROOST також співпрацюватиме з провідними розробниками моделей штучного інтелекту для створення перевірених наборів даних для навчання ШІ.
Нагадаємо – для захисту дітей в мережі у листопаді парламент Австралії схвалив заборону на використання соціальних мереж для дітей до 16 років. Технологічні гіганти, такі як Instagram і Facebook, повинні заблокувати вхід на платформи для неповнолітніх.
