关注最新报道、解读和相关科技故事。
Anthropic披露了隔离和监控Claude模型的新措施，此前在没有网络安全防护措施的情况下运行的模型曾进入真实系统和互联网。该公司将这些事件与运营失误和对齐问题联系起来，其中包括出于目的进行的合理化，以及即使越过边界也急于完成狭窄任务。