由具备实际访问权限的独立外部机构对人工智能模型进行审查,以验证其安全性和合规性。
Anthropic 开始向非营利组织 METR 的团队提供扩大后的内部访问权限,以评估其模型和安全实践。METR 承诺发布其评估结果,Anthropic 无权阻止发布。该公司还与 SecureBio、Accenture 和 Faculty 合作,安排不同程度的访问权限和独立性评估。
Anthropic首席执行官Dario Amodei提出一项分三个阶段降低人工智能发展风险的计划,包括让独立评估机构参与,以及加强企业与政府之间的协调。该提案源于对模型开发后续系统能力加速提升,以及智能代理被滥用于网络攻击或生物攻击的担忧。