미국 의학 협회(AMA)는 최근 지침 보고서를 통해 의료 분야의 AI 도구로 인해 발생하는 오류에 대한 책임이 의사 개인에게만 있는 것이 아니라, 해당 기술의 개발자와 이를 도입한 의료 기관 사이에 공정하게 배분되어야 한다고 강조했다.
AI 환경에서의 책임 배분
새로운 프레임워크에 따르면, 각 당사자는 위험을 완화하기 위해 다음과 같은 구체적인 역할을 수행한다:
- 개발자: 단순히 법적 책임을 회피하는 것에 그치지 않고, 안전하고 정확한 도구를 설계하고 의도된 용도, 성능 및 기술적 한계에 대한 투명한 정보를 제공할 기본 책임을 진다.
- 의료 기관(운영자): 병원과 의료 시스템은 적절한 도구를 선택하고, 사용 전 이를 평가하며, 의사에게 필요한 교육을 제공하고, 시간이 지남에 따라 정확도가 떨어지지 않도록 모델의 성능을 모니터링할 책임이 있다.
- 의사: AI 출력물을 검토하고 필요 시 권장 사항을 거부하는 것을 포함하여 임상적 판단을 내릴 책임은 여전히 의사에게 있지만, 의사가 통제하거나 식별할 수 없는 기술적 오류에 대한 "안전망" 역할을 해서는 안 된다.
이 소식이 중요한 이유
이번 조치는 임상 의사결정을 지원하고 행정적 부담을 줄이기 위해 AI 도입이 증가하는 시점에 이루어졌다. 그러나 AMA가 2026년에 실시한 설문조사에 따르면, 의사의 3분의 1이 법적 책임 프레임워크의 명확성을 이러한 기술 도입의 핵심 동력으로 간주하고 있다. 또한, 설문조사 결과 교육 측면에서 큰 격차가 있음이 드러났는데, 의사의 4분의 1은 AI 도구 사용에 관한 교육을 전혀 받지 못한 반면, 92%는 추가 교육을 받기를 희망하는 것으로 나타났다.
실질적으로 무엇이 바뀌는가?
이 프레임워크는 AI 오류로 피해를 입은 사람들이 실제 책임이 있는 당사자로부터 보상을 받을 수 있도록 명확한 법적 경로를 마련하는 것을 목표로 한다. AMA는 이러한 책임 규명이 의사를 부당한 소송으로부터 보호할 뿐만 아니라, 각 당사자가 자신의 전문 영역에서 최선의 관행을 이행하도록 강제함으로써 환자의 안전을 증진한다고 주장한다. 또한 AMA는 미국 식품의약국(FDA)에 제출한 의견서를 통해, 특히 소규모 및 농촌 지역 의료 기관의 의료진이 과도한 부담을 지지 않도록 생성형 AI 기반 의료 기기에 대한 모니터링 책임을 개발자에게 부여해야 한다고 요구했다.