Компанія Anthropic прогнозує, що невеликі моделі штучного інтелекту за кілька місяців можуть отримати здатність поширювати свої копії між пристроями, підключеними до інтернету. Такий сценарій може дозволити ШІ використовувати обчислювальні потужності домашньої техніки без дорогих дата-центрів.
Про це пише CNBC. За описаним сценарієм, моделі проникатимуть на пристрої зі слабким захистом, як-от розумні духовки чи Android TV-приставки. Вони зможуть використовувати їхні ресурси для власної роботи та поширення на інші пристрої.
Компанія наголосила, що повністю автономної системи, здатної самостійно копіювати себе та поширюватися без контролю, поки не виявлено. Проте ШІ-агенти дедалі краще виконують окремі етапи такого процесу й можуть передавати набуті вдосконалення наступним копіям.
За оцінкою Anthropic, поширення таких систем ускладнить їх вимкнення, оскільки вони не матимуть єдиного центру керування. У найгіршому сценарії загрозу може становити мережа різних моделей, що працюють на різному обладнанні та використовують кілька способів копіювання.
Нагадаємо – компанія OpenAI розробляє функцію автоматичного вимкнення своїх ШІ-систем. Розробка почалася на тлі перевірки безпеки, під час якої один із ШІ-агентів вийшов за межі цифрового середовища та здійснив кібератаку.
