Як ШІ може створити мережу без дата-центрів
Дослідники Anthropic оцінили, що такі моделі можуть опанувати самореплікацію вже за кілька місяців. Йдеться про розподілені ботнети, які виконуватимуть ШІ-завдання без дата-центрів. Експерименти показали, що моделі здатні розпізнавати незнайомі пристрої, об'єднувати їх у мережу й готувати до запуску ШІ-моделі, пише BleepingComputer.
Попри це, повноцінного автономного ШІ-хробака, який самореплікується на реальному обладнанні, дослідники не продемонстрували. Вони лише розгорнули модель Gemma4-26B-A4B від Google DeepMind на 15 приставках для телевізора, що працюють на Android.
Наші експерименти свідчать, що малі ШІ-моделі можуть бути за кілька місяців від здатності самореплікуватися на комерційних пристроях інтернету речей, як-от розумні духовки та безбрендові ТВ-приставки,
– прокоментували в Anthropic.
Зупинити таку програму було б складно. Централізованої точки, яку можна вимкнути, немає, хоча поширення може бути повільним: кількість заражених пристроїв подвоювалася б за кілька днів.
Як проходив експеримент?
Anthropic використала дешеві ТВ-приставки на Android від невідомих брендів і п'ять моделей: Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 та GLM-5.2. Кожній дали свою роль. Qwen3.5-9B і GLM-5.2 мали налаштувати та поширити Llama3.1-8B для інференсу, тобто для виконання запитів. Gemma4-26B-A4B показала, що модель може працювати одразу на 15 приставках. Opus 4.8 окремо перевірили як радника для Qwen.
Умови спрощені: цільові пристрої мали відкритий доступ до ADB без автентифікації. Це службовий інструмент Android для керування пристроєм.
Qwen3.5-9B успішно встановила й налаштувала потрібне програмне забезпечення для запуску Llama3.1-8B на восьми з дев'яти протестованих типів обладнання. GLM-5.2 дісталася всіх восьми вузлів контрольованої емульованої мережі в чотирьох випробуваннях із п'яти. Інші моделі не змогли надійно пройти весь процес.
Коли Anthropic зберігала дані з попередніх спроб, результати покращувалися. Частка успішних спроб Qwen3.5-9B зросла з 45% на початку до 84% у пізніших поколіннях. Допомога сильнішої Opus 4.8 помітного покращення не дала.
Скільки часу в нас є
На основі результатів та історичних даних Anthropic прогнозує, що моделі з 30 мільярдами параметрів і менше можуть досягти потрібного рівня до кінця 2026 року. На досліджуваному обладнанні налаштування інференсу забирало б від 28 до 51 години для Qwen3.5-9B і від 71 до 150 годин для Gemma4-26B-A4B. Це дало б захисникам час виявити загрозу й відреагувати.
Проте з новими моделями цей час може скоротитися. Тому посилення безпеки пристроїв інтернету речей незабаром може стати пріоритетом. Дослідники пропонують виявляти передачу великих моделей і незвичний трафік між пристроями, використовувати приманки (honeypots) для перевірки корисного навантаження, ізолювати заражених абонентів і покращити стандартні налаштування безпеки.
Загрози поки немає: навіть за послаблених налаштувань безпеки та чітко заданої мети поширення експеримент не показав повного циклу створення хробака. Утім, заклик посилити захист розумних пристроїв залишається актуальним.