미국 보건고등연구계획국(ARPA-H)은 심장질환 치료를 지원하는 에이전트형 인공지능 시스템 구축을 목표로 하는 프로그램의 첫 계약을 발표했으며, 총 4년간 최대 6,270만 달러를 지원한다. 이 기관은 첫해에 최대 3,370만 달러를 제공할 예정이다.
이 프로그램의 명칭은 Agentic AI-EnableD CardioVascular CAre TransfOrmation (ADVOCATE)이며, 기본 단계에서는 의료 방문 사이에 심부전 환자를 지원하는 데 초점을 맞춘다. Tempus AI, Updoc, Atman Health를 비롯해 Stanford University, Duke University, Kaiser Permanente 등이 시스템 구축에 참여한다.
시스템 구축 및 시험을 위한 세 가지 경로
ADVOCATE는 업무를 서로 연계된 세 팀으로 나눈다. 첫 번째 팀은 심부전 환자에게 지속적인 지원을 제공하고 필요할 경우 의료진에게 상황을 상향 보고할 수 있는 환자 대상 시스템을 구축한다. 이 팀은 2년 이내에 허가를 받기 위한 자료 패키지를 미국 식품의약국(FDA)에 제출해야 한다.
Stanford University가 이끄는 두 번째 팀은 환자 대상 시스템이 배포된 후 이를 감시하는 감독 시스템을 개발한다. 이 시스템은 질병 종류와 무관하게 작동하며, 안전하지 않은 권고와 모델이 학습한 데이터의 범위를 벗어나는 행동을 탐지하는 임무를 맡는다.
Duke University와 Kaiser Permanente가 참여하는 세 번째 팀은 실제 의료 환경에 시스템을 배포하며, 특히 농촌 지역과 의료 서비스가 부족한 지역사회에 중점을 둔다. Duke는 Epic 및 Cerner/Oracle 전자기록을 사용하는 5개 보건 시스템과 농촌 지역에서 이 기술을 시험한다. Kaiser는 21개 의료센터와 260곳이 넘는 진료소에 시스템을 배포하고, ADVOCATE 에이전트를 심부전 환자를 위한 Epic 업무 흐름에 통합한다.
이 프로그램이 중요한 이유
이 프로젝트는 의료 챗봇을 만드는 데 그치지 않는다. 공개된 목표는 환자의 상태를 파악하고 특정 조치를 독립적으로 수행한 뒤, 상황이 요구할 때 임상팀을 참여시킬 수 있는 에이전트를 개발하는 것이다. ARPA-H는 이러한 접근 방식이 심장질환의 영향을 완화하고 심장 전문의의 진료를 쉽게 받지 못하는 환자를 지원하는 데 도움이 될 수 있다고 본다. 이 기관에 따르면 미국의 약 절반에 해당하는 카운티에는 심장 전문의가 없다.
그러나 프로그램의 실질적 가치는 모델의 역량만이 아니라 이러한 독립적 기능의 안전성을 어떻게 입증하느냐에 달려 있다. 이에 따라 참여 기관들은 ARPA-H와 함께 공동 평가 기준, 상호운용성 요건, 보상 경로를 마련한다. 또한 Johns Hopkins University의 응용물리연구소는 기술적 성능과 임상 결과를 평가하기 위한 독립적인 감독을 제공한다.
규제와 남아 있는 제약
ADVOCATE는 생성형 인공지능 구성요소를 포함하는 의료기기를 비롯해 새로운 인공지능 기술을 어떻게 규제할지에 대한 FDA의 관심이 커지는 시점에 진행된다. 이 프로그램은 환자에게 직접 지시하는 새로운 유형의 임상 인공지능을 위한 규제 체계를 개발하기 위해 FDA와 협력한다. 그러나 이번 발표만으로 시스템이 규제 승인을 받았거나 광범위한 사용에 준비되었다는 의미는 아니다. 발표는 오히려 허가 자료 패키지 제출 기한을 2년으로 설정하고, 안전성과 효과에 대한 지속적인 모니터링을 프로젝트의 핵심 요소로 삼는다.