최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Anthropic은 Cyber Verification Program과 Project Glasswing을 하나의 체계로 통합해 보안 팀에 Claude 모델에 대한 단계적 접근을 제공하며, 사용 수준에 따라 검증 요건과 통제가 달라진다. 이 프로그램에는 사고 대응, 침투 테스트, 중요 시스템 테스트가 포함되며, 광범위한 피해를 일으킬 수 있는 사용은 계속 금지된다.
영국 의회 회의에서 관계자들과 연구자들은 초지능 인공지능이 핵무기와 같은 수준의 위험을 초래하거나 이를 넘어설 수 있다고 경고했으며, 정치인들은 초지능 인공지능 개발을 규제하기 위한 국제 조약을 촉구했다. 이에 대해 일부 전문가들은 인류 멸종 시나리오에 집중하면 허위 정보, 일자리, 환경 영향과 같은 현재의 위험에서 관심이 멀어질 수 있다고 본다.
Anthropic은 토큰 비용 절감과 잘못된 안전 제한을 줄이는 개선 사항을 적용한 Fable 및 Mythos 5.1을 출시하고, 기업 고객을 위한 데이터 제로 보존 서비스를 제공하기 시작했다. Mythos 5.1은 사이버 보안 및 생명과학 연구에 등록된 파트너로 제한되는 반면, Fable 5.1은 클라우드 플랫폼과 Anthropic API를 통해 이용할 수 있다.