상업용 사물 인터넷 기기의 보안과 자기 복제형 인공지능 모델을 통한 표적 공격 위험.
Anthropic의 Frontier Red Team 팀이 진행한 실험에 따르면 소형 인공지능 모델은 수개월 내에 데이터센터에 의존하지 않고 상용 사물인터넷 기기에서 스스로 실행되고 기기 사이로 확산할 수 있다. 아직 완전한 악성 자기복제 프로그램은 존재하지 않지만, 모델은 공격에 필요한 일련의 단계를 수행하는 능력을 향상하고 있다.