关注最新报道、解读和相关科技故事。
Goodfire推出了一套通过读取模型内部信号进行监控的系统，而不是让第二个模型重新检查代理的每一项输出。该公司表示，这套系统大幅降低了成本，同时能够监测黑客攻击、生物武器和化学武器滥用等风险。