AI for Health 연합(CHAI)은 Frontier AI로 알려진 첨단 인공지능 모델과 관련된 사이버 위험에 대응하기 위해 의료 시스템, 보험사 및 산업 부문의 리더 약 100명으로 구성된 작업반을 출범시켰다고 발표했다. 작업반은 2주마다 회의를 열고 2026년 말 이전에 의료 인공지능 분야의 사이버 보안 지침을 마련해 배포하는 것을 목표로 한다.
작업반의 산출물에는 인공지능 위험 평가 도구와 방어적·공격적 보안 전략을 다루는 지침서가 포함된다. CHAI는 첨단 모델의 최근 발전이 의료 부문이 직면한 사이버 위협의 성격을 근본적으로 바꿨다고 보고 있으며, 이러한 시점에 작업반이 구성됐다.
더 강력하고 자율적인 모델
연합은 Anthropic이 봄에 Mythos와 Fable이라는 두 첨단 인공지능 모델을 출시한 것이 작업반 설립의 촉매가 됐다고 밝혔다. Fable은 일반에 공개된 버전인 반면, 자료에 따르면 Mythos는 사이버 보안 취약점을 자율적으로 발견하고 이를 실제 작동하는 공격 방법으로 전환할 수 있다.
이러한 모델은 현재 이용 가능한 가장 강력한 인공지능 시스템에 속한다. 복잡한 작업을 처리하고 방대한 양의 정보를 다루며, 지속적인 인간의 지시 없이 자율적으로 작동할 수 있다. 이는 의료 기관이 방어 역량을 강화할 기회를 제공하지만, 동시에 공격자들이 공격의 속도와 규모 및 효과를 높일 수 있게 한다.
의료 및 사이버 보안 부문 리더들의 참여
University of Texas Medical Branch의 최고정보보안책임자인 존 플로레스는 작업반의 활동을 이끄는 14명 규모의 지도위원회에 참여한다. Baptist Health와 Duke Health를 비롯한 다른 의료 시스템의 대표들도 합류하며, 의료 기술 및 사이버 보안 기업과 위협 정보 공유 및 표준 제정 조직의 관계자와 전문가들도 참여한다.
플로레스는 의료 기관이 항상 사이버 보안 문제에 직면해 왔지만, 현재의 인공지능 발전이 이들이 직면한 위협의 수준을 바꿨다고 말했다. Delaware Valley Community Health의 수석 부사장 겸 최고정보보안책임자이자 지도위원회 위원인 Isaiah Nathaniel도 소규모 시스템을 포함한 의료 부문의 모든 영역이 기술 발전의 부정적 측면에 대응할 수 있도록 준비해야 한다고 강조했다.
의료 기관에 커지는 압박
의료 기관은 최근 몇 년 동안 수많은 사이버 공격과 데이터 유출에 노출되어 왔다. 이러한 사건은 구급차를 다른 곳으로 돌리고 예약과 수술을 취소하거나 전자 건강기록 시스템을 중단시키는 등 환자 진료를 방해할 수 있다.
Fortified Health Security에 따르면 병원들은 2026년 1분기에 식별된 사이버 위험의 6%만 처리했으며, 이는 2025년 1분기의 23%와 비교된다. 이러한 수치는 발견된 취약점의 규모가 의료 기관이 이를 처리할 수 있는 역량을 초과하고 있음을 보여주며, 인공지능 모델의 위험을 평가하고 이에 대응하는 데 도움이 되는 지침과 도구를 개발하는 것이 더욱 중요해지고 있음을 시사한다.