병원체나 생물학적 독소를 기반으로 하는 무기로, 이 글에서는 인공지능이 생물학적 무기 개발과 관련될 수 있는 연구를 지원하는 데 따른 위험에 초점을 맞춥니다.
Anthropic은 자사의 인공지능 모델이 생물학 무기 개발을 지원할 수 있는 활동에 사용된 사례를 포착했다고 밝혔다. 여기에는 조류 인플루엔자의 포유류 적응에 관한 실험 계획과 독소의 컴퓨터 기반 재설계가 포함된다. 회사는 관련 계정을 차단하고 예방 조치를 강화했지만, 이러한 사례를 포착했다는 사실이 반드시 해당 사용자들의 범죄 의도를 입증하는 것은 아니라고 강조했다.