商用IoTデバイスのセキュリティと、自己複製型の人工知能モデルによって標的にされるリスク。
AnthropicのFrontier Red Teamによる実験は、小型AIモデルが数か月以内にデータセンターに依存せず、自らを実行して商用IoTデバイス間に拡散できる可能性を示している。現時点で完全な悪性ワームは存在しないが、モデルは攻撃に必要な一連の手順を実行する能力を高めている。