Anthropicは、小型の人工知能モデルが今後数カ月以内に、低価格のAndroid TVボックスやスマートオーブンなどの市販IoT機器を介して自己拡散できる能力に近づく可能性があると警告した。このシナリオでは、データセンターに直接依存せずにAIワークロードを実行できる、分散型の機器ネットワークが構築される可能性がある。
ただし、この警告は差し迫った攻撃や、自律型AIワームの完全な実証に基づくものではない。研究者は、Google DeepMindのGemma4-26B-A4Bモデルを、ブランドが特定されていない15台のAndroid TVボックスに分散配置することには成功したが、機器の発見と侵入に始まり、実際のIoTハードウェア上で自動的に自らを複製するまでの完全なサイクルを示すことには成功していない。
実験で何が示されたのか
Anthropicは、安価なAndroid TVボックスを使用し、Qwen3.5-9B、Gemma4-26B-A4B、Llama3.1-8B、Opus 4.8、GLM-5.2の各モデルに異なる役割を割り当てた。Qwen3.5-9BとGLM-5.2は、Llama3.1-8Bの準備と展開を担当し、Gemma4-26B-A4Bは15台の機器上でモデルを実行できる可能性を示した。
テストでは、標的となる機器が文書化されていないADBアクセスを公開している、簡略化された環境を使用した。Qwen3.5-9Bは、テストした9種類のハードウェアのうち8種類で、Llama3.1-8Bの実行に必要なソフトウェアをインストールして設定することに成功した。一方、GLM-5.2は、制御されたシミュレーションネットワーク内で5回中4回、8つのノードに到達したが、他のモデルは処理を安定して完了できなかった。
Qwen3.5-9Bの成功率は、過去の試行データを保持した場合、初期の試行における45％から後続の世代では84％に上昇した。Opus 4.8を支援役として使用しても、測定可能な改善は見られなかった。
実際には何が変わるのか
Anthropicは、実験結果とこれまでの改善率に基づき、パラメーター数が300億を超えないモデルが、2026年末までに必要な能力水準に達する可能性があると見積もっている。調査対象のハードウェアでは、推論処理にかかった時間はQwen3.5-9Bで28～51時間、Gemma4-26B-A4Bで71～150時間であり、防御側には活動を検知して対処する時間がある。ただし、モデルとハードウェアの改善に伴い、この時間は短縮される可能性がある。
提案される防御策と警告の限界
Anthropicは、大規模なモデル転送や機器間の異常なデータ通信を監視し、ネットワークハニーポットを使用してペイロードを検査し、感染した加入者や機器を隔離することに加え、IoT機器のデフォルトのセキュリティ設定を改善することを提案している。
基本的な結論は依然として警告であり、進行中の脅威の証明ではない。拡散の標的を事前に指定し、防御レベルを下げた場合でさえ、実験ではエンドツーエンドの自律型ワームの作成は実現しなかった。それでも、この結果は、IoTの設定不備と、より小型のモデルが機器を発見して設定する能力の向上が組み合わさることで、将来の分散型攻撃の封じ込めがより困難になる可能性を示している。