사이버 공격에 AI 에이전트를 사용하는 것으로, 에이전트의 역량이 향상됨에 따라 그 영향이 확대될 가능성이 있다고 기사에서 언급한 위험입니다.
Anthropic의 CEO Dario Amodei는 인공지능 발전의 위험을 줄이기 위한 3단계 계획을 제시했다. 이 계획에는 독립적인 평가 기관의 참여와 기업 및 정부 간 더욱 폭넓은 조율이 포함된다. 이 제안은 후속 시스템을 개발하는 모델의 능력이 가속화되는 것과 지능형 에이전트가 사이버 또는 생물학적 공격에 악용될 수 있다는 우려에 기반한다.