Anthropic 宣布开始实施一种独立监督模式，向非营利组织 METR 的六名员工提供类似公司员工的访问权限，使其能够使用评估先进人工智能模型风险所需的设备、办公空间、工具和内部系统。该公司表示，METR 将发布其对风险级别、事件和实践的评估结果，而 Anthropic 无权否决发布。
此举是在 Anthropic 上月承诺加强第三方独立评估，以及签署《白宫关于超级人工智能的协议》之后采取的。该协议包括企业与独立的外部审计员或评估人员合作的承诺。在过去一年中，Anthropic 曾与 METR 合作，对其风险报告进行多次审查；与此同时，该公司还与 SecureBio、Accenture 和 Faculty 合作，并与包括 Hugging Face 在内的其他机构展开初步讨论。
类似员工的访问权限意味着什么？
据 Anthropic 称，公司员工应像与一名从事对齐风险工作的同事分享信息一样，向 METR 团队分享信息。这包括接近内部风险评估团队所获得的访问权限，但客户数据、受律师—客户保密特权保护的信息以及与模型架构有关的部分信息等特定类别除外。
Anthropic 无法阻止 METR 发布其观察结果或评估结果，但可以要求屏蔽属于预先确定的狭窄类别的信息。作为交换，METR 可以公开描述屏蔽流程，并说明其是否认为屏蔽具有正当性，但不得披露被屏蔽的信息。此外，参与范围仅限于根据可执行协议开展工作的一个小团队，METR 的其他员工将与这项任务隔离。
独立评估的三个等级
Anthropic 正在建立一种由三个等级组成的评估方合作模式：
- 第一级：范围有限的调查，由 Anthropic 确定访问权限的级别，成果只有在获得其批准后才能发布。
- 第二级：更广泛的访问权限以及无需事先批准即可发布的权利，但 Anthropic 保留要求删除某些类别信息的权利。
- 第三级：METR 当前的安排，包括类似员工的访问权限，以及与第二级相同的发布权利。
目前，SecureBio 正在审查 Anthropic 于八月发布的风险报告中的化学武器和生物武器章节，此前该机构已经完成对一份早期报告的试点评审并发布了结果。与 Accenture 和 Faculty 的合作则包括模型评估和红队测试、开展对齐评估、测试防护措施以及建立共同能力。
为什么这一变化很重要？
Anthropic 承认，公司对其系统和风险的了解多于外部监督者所能了解的内容，但由于滥用风险或商业敏感性，公司无法公开所有细节，其中包括计算和训练信息。因此，该模式旨在弥合独立评估人员所能看到的内容与公司内部所掌握的信息之间的差距，同时给予评估人员实际发布其结论的空间。
不过，这项试验仍受到小规模团队、访问协议和保密控制的限制，其他一些合作关系也仍处于早期阶段，并且享有更狭窄的发布权。该模式的有效性将取决于评估人员的独立程度、他们能够获得的信息范围，以及他们实际发布令公司不适的结果的能力。Anthropic 表示，这些方面仍在摸索如何进行安排。