Anthropic предупредила, что небольшие модели искусственного интеллекта в течение ближайших месяцев могут приблизиться к способности самостоятельно распространяться через коммерческие устройства Интернета вещей, такие как недорогие приставки Android TV и умные духовки. Такой сценарий может привести к созданию распределенных сетей устройств, способных запускать нагрузки искусственного интеллекта без прямой зависимости от центров обработки данных.
Однако это предупреждение не основано на неизбежной атаке или полном доказательстве существования автономного червя на базе искусственного интеллекта. Исследователям удалось распределить модель Gemma4-26B-A4B от Google DeepMind по 15 приставкам Android TV неизвестной марки, однако они не смогли продемонстрировать полный цикл, начинающийся с обнаружения и взлома устройств и заканчивающийся автоматическим копированием модели через реальное оборудование IoT.
Что показал эксперимент?
Anthropic использовала дешевые приставки Android TV и распределила различные роли между моделями Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 и GLM-5.2. Qwen3.5-9B и GLM-5.2 выполняли задачи по подготовке и развертыванию Llama3.1-8B, тогда как Gemma4-26B-A4B продемонстрировала возможность запуска модели на 15 устройствах.
Тестирование проводилось в упрощенной среде, в которой целевые устройства предоставляли недокументированный доступ ADB. Qwen3.5-9B удалось установить необходимое для запуска Llama3.1-8B программное обеспечение и настроить его на восьми из девяти проверенных типов оборудования. GLM-5.2 достиг восьми узлов в четырех из пяти попыток в контролируемой имитируемой сети, тогда как другим моделям не удалось стабильно завершить процесс.
Показатель успешности Qwen3.5-9B вырос с 45% на ранних попытках до 84% в последующих поколениях, когда модель сохраняла данные о предыдущих попытках. Использование Opus 4.8 для ее поддержки не привело к измеримому улучшению.
Что меняется на практике?
Anthropic оценивает, что модели размером не более 30 миллиардов параметров могут достичь необходимого уровня возможностей к концу 2026 года, основываясь на результатах эксперимента и прежних темпах улучшения. На исследованном оборудовании процесс вывода занимал от 28 до 51 часа при использовании Qwen3.5-9B и от 71 до 150 часов при использовании Gemma4-26B-A4B, что дает защитникам время на обнаружение активности и реагирование на нее. Однако по мере совершенствования моделей и оборудования этот срок может сократиться.
Предлагаемые меры защиты и ограничения предупреждения
Anthropic предлагает отслеживать передачу крупных моделей и необычный обмен данными между устройствами, использовать сетевые ловушки для проверки полезных нагрузок, изолировать абонентов или зараженные устройства, а также улучшать настройки безопасности по умолчанию для устройств IoT.
Основной вывод остается предупреждением, а не доказательством существующей угрозы: эксперимент не позволил создать автономного червя от начала до конца даже при снижении уровня защиты и предварительном указании целей распространения. Тем не менее результаты показывают, что слабые настройки IoT в сочетании с растущими возможностями небольших моделей по обнаружению и настройке устройств могут в будущем усложнить локализацию распределенных атак.