Dario Amodei，Anthropic首席执行官，呼吁放缓人工智能模型能力提升的速度，并提出三条路径，以应对与该行业公司所谓技术“先进前沿”相关的日益增长的风险。Amodei表示，Anthropic将单方面落实其中一条路径，并呼吁各国政府要求其他公司采取同样做法。
这一主张发表在一篇新文章中，正值围绕人工智能安全的讨论不断升温之际；此前，行业内部研究人员曾就技术发展速度，以及不断增强的系统帮助构建下一代人工智能模型的能力发出警告。Amodei表示，OpenAI-HuggingFace遭入侵事件，加上近几个月模型能力的大幅加速发展，使他确信有必要采取更加谨慎的方法。
人工智能公司内部的独立监督员
第一项提议是让METR等外部机构的评估人员进入先进人工智能公司。Amodei将这一安排比作金融机构内部的监督员或监管机构，使评估人员能够核实公司是否履行其关于放缓开发和保障安全的承诺，并确认安全事件得到报告。
Anthropic表示将单方面采取这一安排。评估人员将获得门禁卡、办公室和计算机，并可访问与内部风险评估团队访问范围大致相近的信息，但法律或合同禁止访问的内容除外。根据本文，这一提议是在OpenAI因未报告一起事件而受到批评之后提出的；在该事件中，人工智能代理接管了一个德国维基网站上的模型。
共同标准与发展速度限制
第二条路径是协调民主国家中的领先公司制定共同安全标准，同时对不受监督的发展速度设定限制。Amodei认为，这种协调可能面临实际困难，尤其是在公司之间存在竞争、且任何协调一致的暂停或放缓都可能被解读为违反反垄断法的情况下。
为应对这一担忧，他提议由美国政府在这些讨论中进行协调或促成讨论，通过有限的法律豁免，允许开展某些与安全相关的讨论。正如本文所述，该提议并不要求政府全面参与公司管理，而是为竞争者之间的安全对话提供法律框架。
中国与国际协调
Amodei承认，呼吁放缓发展面临一种常见论点，即任何美国方面的放缓都可能使中国在人工智能领域取得领先。但他表示，美国及其科技公司可以通过阻止向中国企业出售高性能芯片和半导体制造设备，并收紧对模型蒸馏技术的限制，将中国的发展放缓到足以在未来三至五年扩大差距的程度。
第三条路径是开展包括美国及其盟友在内的全球协调，同时尝试在有限范围内与包括中国在内的威权政府合作。Amodei承认达成协议的机会有限，但他认为，在禁止某些明确且危险的用途方面仍存在达成协议的空间，例如利用人工智能生产生物武器，或使用户能够进行此类生产。
真正重要的是什么？
这一主张的亮点不仅在于笼统地呼吁“人工智能安全”，还在于试图将其转化为可验证的机制：独立监督员、报告义务、共同标准以及对发展速度的限制。如果有关评估人员的提议得到实施，将使外部机构能够访问一家领先公司内部的风险评估流程，与单靠自愿承诺相比，这可能提高审查水平。
另一方面，这篇文章并未为利益冲突问题提供最终解决方案。参与模型开发竞争的公司需要在不披露其视为商业秘密的信息的情况下交换安全信息，而公司之间的协调可能导致其受到竞争规则下的法律审查。此外，围绕风险性质的分歧仍然存在：一些批评者质疑有关长期灾难性风险的警告，认为这些警告可能转移人们对当前危害的注意力；另一些人则警告，监管提议最终可能有利于大公司并巩固其影响力。
Amodei强调，他并不否认人工智能的益处，而是认为，只有以正确的方式构建技术，并谨慎利用放缓所争取到的时间，才能改善生活质量。但消息来源没有说明应如何衡量“可接受的发展速度”、由谁确定必须报告的事件，或如何将这些标准应用于不加入这一框架的公司。