商业物联网设备的安全,以及利用可自我复制的人工智能模型针对这些设备所带来的风险。
Anthropic的Frontier Red Team团队进行的实验表明,小型人工智能模型可能在数月内自行运行并在商用物联网设备之间传播,无需依赖数据中心。目前还没有完整的恶意自我传播程序,但模型执行攻击所需步骤链的能力正在提高。