模型开发呈现前所未有的加速
人工智能安全研究组织（METR）发布的一份报告显示，Anthropic 的智能模型开发速度大幅加快。数据表明，该公司在过去一年中取得的进展相当于以往两年的历史发展积累。根据这项历时 11 周的调查，这种加速不仅归因于算力的增加，还归因于人工智能本身对开发过程的贡献。
据该公司员工透露，与没有技术辅助的工作相比，使用最新的内部模型使他们的生产力提高了 12 倍，这是仅在几个月前记录的增长率的两倍。报告还透露，该公司已完成三个尚未向公众开放的新模型的训练，反映出极快的开发周期。
为什么这一消息引发了研究人员的担忧？
危机在于 Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓 AI 开发步伐，与现实情况之间的矛盾。现实表明，该公司正在领导一场迈向无需大量人类干预即可进行递归自我改进（Recursive Self-Improvement）系统的竞赛。研究人员认为，这种发展可能会超出当前安全措施的跟进能力，使社会面临复杂的技术和伦理挑战。
透明度与编辑限制
该报告引发了广泛争议，因为 Anthropic 决定隐瞒 METR 得出的很大一部分调查结果，理由是保护商业机密并防止竞争对手利用公司的技术路线图。人工智能安全领域的专家对这种遮蔽行为提出了批评，认为这阻碍了公众和监管机构独立评估真实风险。
另一方面，Anthropic 联合创始人萨姆·麦坎德利什（Sam McCandlish）为隐瞒决定进行了辩护，强调披露加速引擎的细节可能会加剧公司试图避免的风险。然而，关于私营公司在缺乏足够的政府或独立监管的情况下管理如此规模的技术安全的能力，疑问依然存在，特别是在美国要求对人工智能开发实施更严格限制的政治压力日益增加的情况下。