최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Anthropic의 연구 논문은 자동화 시스템이 정렬 목표와 일치하지 않는 행동을 평가하는 10개 테스트에서 모델의 전반적인 성능 저하 없이 성능을 개선할 수 있었다고 밝혔다. 초기 결과는 정렬 연구의 일부를 자동화할 가능성을 보여주지만, 기준과 연구 데이터의 품질은 여전히 주요 제약으로 남아 있다.