고급 인공지능 모델과 그 위험을 관리하기 위해 제안된 정책 및 규제 분야입니다.
Anthropic은 더욱 강력한 인공지능 모델의 거버넌스를 위한 첨단 프레임워크와, 기술이 노동시장에 미치는 영향 및 그 혜택의 분배에 대비하기 위한 경제 프레임워크를 제안했다. 이 회사는 더 큰 투명성, 독립적 평가, 강화된 보안을 요구하며, 특정한 통제 장치 아래에서 재앙적 피해를 초래할 수 있는 배포를 억제할 권한을 정부에 부여해야 한다고 주장한다.