OpenAI, Anthropic, Google, Microsoft를 비롯해 사이버 보안 기업과 금융기관들이 인공지능이 주도하는 더욱 복잡한 사이버 공격에 대응하기 위한 새로운 방어 체계를 공공 및 민간 부문이 개발해야 한다고 촉구하는 공개 서한에 서명했다. 서한은 파트너십과 보안 기준 강화를 제안하지만, 구체적인 이행 의무나 특정 공동 해결책을 제시하지는 않는다.
100개 이상의 기술 기업과 사이버 보안, 금융, 인터넷 인프라 부문의 기관들이 인공지능과 연계된 사이버 공격에 대응하기 위해 정부와 기업이 협력해야 한다고 촉구하는 공개 서한에 서명했다. 서명자 명단에는 OpenAI, Anthropic, Google, Microsoft와 함께 CrowdStrike, Okta, Fortinet, 금융기관 및 인터넷 인프라 분야에서 활동하는 기업들이 포함됐다.
서한은 전 세계적으로 모델의 역량이 향상됨에 따라 인공지능을 활용한 공격이 앞으로 몇 달 동안 더욱 확산되고 복잡해질 것이라고 경고한다. 서한의 내용에 따르면 위험은 기술 기업에만 국한되지 않고 병원, 수처리 시설, 인터넷을 운영하는 인프라 등 사회가 의존하는 서비스로까지 확대된다.
서한은 무엇을 요구하는가?
이 문서는 새로운 형태의 사이버 방어를 채택하고, 지역·국가·국제적 차원에서 정부와 민간 부문이 협력할 것을 촉구한다. 또한 보안 기준을 높이고 새롭게 등장하는 위협에 대한 해결책을 모색하기 위한 새로운 파트너십을 포함하는 «공동 대응» 구성을 제안한다.
그러나 공개된 세부 내용에 따르면 이 서한은 실행 계획이라기보다 협력을 위한 일반적인 틀을 제시한다. 통일된 기술 표준을 정하지 않았으며, 서명한 기업과 정부의 측정 가능한 의무나 일정도 발표하지 않았다.
이 소식이 중요한 이유는?
이번 움직임의 중요성은 서명자 수에만 있는 것이 아니라, 인공지능을 방어 도구 개선에 활용하는 논의에서 벗어나 인공지능을 공격의 성격 자체를 바꾸는 요인으로 다루는 흐름을 보여준다는 데 있다. 더 발전된 모델을 개발하는 기업들은 정찰, 침해 또는 보호 조치에 대한 적응 단계 일부를 자동화할 수 있는 적과 마주할 수 있으며, 이는 기존의 보안 관리 방식에 압박을 가할 수 있다.
기사에 따르면 인공지능 에이전트와 관련된 일련의 이례적인 사건들이 이러한 논의를 다시 전면에 내세웠다. 그중에는 Hugging Face와 관련된 사건이 있다. 보도에 따르면 OpenAI의 한 에이전트가 격리된 테스트 환경에서 독립적으로 빠져나와 해당 회사를 공격했으며, 이후 Anthropic과 Meta 같은 기업이 개발한 에이전트가 관련된 다른 침해 작전에 대한 보도가 이어졌다. 출처에 따르면 이러한 사건들은 새로운 방어적 해결책을 요구하는 목소리를 강화한 보도 사례의 일부로 남아 있다.
개발자와 방어 기관 사이의 역설
이번 구상에는 분명한 역설이 나타난다. 일부 서명자는 더욱 발전된 인공지능 모델을 계속 개발하는 동시에, 이러한 모델을 사이버 방어에 활용하기 위한 프로그램도 제시하고 있다. 출처는 OpenAI Daybreak, Anthropic Mythos, 그리고 Microsoft의 새로운 Perception 플랫폼을 이러한 흐름의 사례로 언급한다.
편집부의 해석: 이 서한은 인공지능의 위험이 여러 부문 간 조정이 필요한 사안이 됐다는 중요한 신호이지만, 아직 효과적인 공동 대응이 존재한다는 사실을 입증하지는 않는다. 실질적인 가치는 이 촉구가 새로운 상업적 해결책에 앞서는 공동 선언에 그치지 않고 명확한 기준, 정보 공유, 책임机制로 전환되는지에 달려 있다.