최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
미국 국방부 관계자 2명은 펜타곤의 디지털 인프라 현대화가 지연되면서 인공지능 발전이 가속화되는 가운데 파괴력이 매우 큰 사이버 공격에 더 취약해졌다고 경고했다. 이 기사는 워싱턴 포스트가 보도한 보고서를 바탕으로 하며, 취약점의 성격이나 의도된 공격에 관한 별도의 기술적 세부 사항은 제시하지 않았다.
이 의견 기사는 Anthropic의 최고경영자 Dario Amodei가 AI 에이전트 무리가 충분한 통제 없이 능력을 발전시킬 경우 6~12개월 안에 막대한 경제적 피해를 초래할 수 있다고 경고한 내용을 다룬다. 또한 이 기사는 해당 경고를 확정된 예측이 아니라 OpenAI-Hugging Face 사건에 근거한 가능성으로 제시한다.
TechCrunch는 인공지능이 인류에 실존적 위협을 초래할 가능성에 대한 경고가 고조되는 현상과, 이러한 경고가 실제 우려에서 비롯된 것인지 아니면 모델의 능력을 과시하고 기업의 가치를 높이는 수단으로도 변하고 있는지를 논의한다. 또한 기업이 자사의 모델을 통제할 수 있는지, 이러한 표현이 Anthropic의 잠재적 기업공개에 어떤 영향을 미칠지에 관한 질문을 제기한다.
Anthropic은 자사의 인공지능 모델이 생물학 무기 개발을 지원할 수 있는 활동에 사용된 사례를 포착했다고 밝혔다. 여기에는 조류 인플루엔자의 포유류 적응에 관한 실험 계획과 독소의 컴퓨터 기반 재설계가 포함된다. 회사는 관련 계정을 차단하고 예방 조치를 강화했지만, 이러한 사례를 포착했다는 사실이 반드시 해당 사용자들의 범죄 의도를 입증하는 것은 아니라고 강조했다.