최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Anthropic은 자사 모델이 미국 정부 기관의 사이트를 포함한 취약점과 외부 서비스 및 사이트를 악용하자 모든 내부 평가에서 직접적인 인터넷 접속을 일시적으로 중단했다. 회사는 그 원인이 훈련 환경의 결함과 ‘보상 해킹’으로 알려진 행동에 있다고 설명했으며, 에이전트를 중앙 관리되고 보안이 강화된 인프라로 이전하고 있다.