최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
CISA, NSA, FBI는 6개 중국 인공지능 기업이 2024년 말부터 수십억 개의 토큰과 수백만 건의 요청을 통해 미국 첨단 모델의 출력물을 광범위하게 추출하는 작업을 수행했다고 밝혔다. 기관들은 API 오용 모니터링을 개선하고 이러한 캠페인의 지표를 기업 간에 공유할 것을 권고했다.
Abliteration.ai는 거부 메커니즘을 제거한 오픈 웨이트 모델의 수정 버전에 접근할 수 있도록 하며, 사이버 보안팀이 공격자의 행동을 모의할 수 있게 한다고 주장합니다. 그러나 이 서비스는 동시에 이러한 모델을 유해한 활동에 더 광범위하게 사용할 수 있는 문을 열며, 고객 신원 확인 절차가 없고 책임성 통제가 완비되지 않은 상황에서 제공됩니다.