На этот раз дело серьезно: Anthropic пугает нас новыми последствиями разработки ИИ

Как ИИ может создать сеть без дата-центров

Исследователи из Anthropic оценили, что такие модели могут освоить саморепликацию уже через несколько месяцев. Речь идет о распределенных ботнетах, которые будут выполнять задачи ИИ без центров обработки данных. Эксперименты показали, что модели способны распознавать незнакомые устройства, объединять их в сеть и готовить к запуску ИИ-модели, пишет BleepingComputer.

Несмотря на это, полноценного автономного ИИ-червя, самореплицирующегося на реальном оборудовании, исследователи не продемонстрировали. Они лишь развернули модель Gemma4-26B-A4B от Google DeepMind на 15 приставках для телевизора, работающих на Android.

Наши эксперименты показывают, что небольшие модели ИИ могут через несколько месяцев быть в состоянии самореплицироваться на коммерческих устройствах Интернета вещей, таких как умные духовки и безбрендовые ТВ-приставки, 
– прокомментировали в Anthropic.

Остановить такую программу было бы сложно. Централизованной точки, которую можно отключить, нет, хотя распространение может быть медленным: количество зараженных устройств удваивалось бы за несколько дней.

Как проходил эксперимент?

Anthropic использовала недорогие ТВ-приставки на Android от неизвестных брендов и пять моделей: Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 и GLM-5.2. Каждой присвоили свою роль. Qwen3.5-9B и GLM-5.2 должны были настроить и распространить Llama3.1-8B для инференса, то есть для выполнения запросов. Gemma4-26B-A4B показала, что модель может работать сразу на 15 приставках. Opus 4.8 отдельно проверили в качестве советника для Qwen.

Условия были упрощены: целевые устройства имели открытый доступ к ADB без аутентификации. Это служебный инструмент Android для управления устройством.

Qwen3.5-9B успешно установила и настроила необходимое программное обеспечение для запуска Llama3.1-8B на восьми из девяти протестированных типов оборудования. GLM-5.2 достигла всех восьми узлов контролируемой эмулированной сети в четырех испытаниях из пяти. Другие модели не смогли надежно пройти весь процесс.

Когда Anthropic сохраняла данные предыдущих попыток, результаты улучшались. Доля успешных попыток Qwen3.5-9B выросла с 45% в начале до 84% в более поздних поколениях. Использование более мощной модели Opus 4.8 заметного улучшения не дало.

Сколько времени у нас есть

На основе результатов и исторических данных Anthropic прогнозирует, что модели с 30 миллиардами параметров и менее могут достичь необходимого уровня к концу 2026 года. На исследуемом оборудовании настройка инференса заняла бы от 28 до 51 часа для Qwen3.5-9B и от 71 до 150 часов для Gemma4-26B-A4B. Это дало бы защитникам время обнаружить угрозу и отреагировать.

Однако с появлением новых моделей это время может сократиться. Поэтому усиление безопасности устройств Интернета вещей в скором времени может стать приоритетом. Исследователи предлагают выявлять передачу данных больших моделей и необычный трафик между устройствами, использовать ловушки (honeypots) для проверки полезной нагрузки, изолировать зараженных абонентов и улучшить стандартные настройки безопасности.

Угрозы пока нет: даже при ослабленных настройках безопасности и четко заданной цели распространения эксперимент не показал полного цикла создания червя. Впрочем, призыв усилить защиту умных устройств остается актуальным.