최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Goodfire가 AI 에이전트의 모든 출력을 두 번째 모델로 재검사하는 대신 모델 내부 신호를 읽는 모니터링 시스템을 선보였다. 회사는 이 시스템이 비용을 크게 낮추면서 해킹과 생물·화학 무기 오용 같은 위험을 감지한다고 밝혔다.