Anthropic 的联邦监管愿景
最近的报告显示，Anthropic 公司向美国立法者提交了一份新的法律草案，旨在为人工智能制定监管框架。此举正值全球范围内要求控制先进模型开发速度的压力不断升级之际，该公司试图明确界定禁止在市场上发布任何人工智能模型的具体场景。
灾难性风险标准
拟议的法律草案定义了某些被归类为“迫在眉睫的灾难性风险”的情况，即可能导致超过 50 人死亡或造成超过 10 亿美元物质损失的情况。草案规定，这些风险必须源于：
- 制造或释放生物武器。
- 模型脱离开发者的控制。
- 发动大规模网络攻击。
这些标准与加利福尼亚州法案（参议院第 53 号法案）中的标准非常相似，这表明其意图在联邦层面统一安全标准。
实际发生了什么变化？
最具争议的一点在于执行机制；该法律建议依靠在美国商务部注册的“独立评估员”来评估模型的风险。然而，法律允许开发者支付这些评估员的费用，前提是费用与评估结果无关，这引发了人们对该过程独立性的质疑。
此外，该法律对联邦机构施加了严格的限制；它禁止机构单方面决定停止发布任何模型。相反，如果机构发现迫在眉睫的风险，必须在 72 小时内通知商务部，商务部则必须向华盛顿特区的法官申请法院禁令以停止发布。这意味着将直接裁量权从技术监管机构手中收回，并将其限制在司法程序中。
监管竞争背景
这一倡议是在科技行业内部存在分歧的背景下提出的；虽然一些公司呼吁建立依赖内部监督员的自愿监管框架，但行业内的其他领导者，如 Nvidia 的首席执行官黄仁勋（Jensen Huang），认为该行业不需要限制创新的新法律。Anthropic 的举措是大公司的一种先发制人的尝试，旨在制定它们将要遵守的规则，而不是将其留给可能施加更严格或更全面限制的立法者。