미국 식품의약국(FDA)은 의료 기기 기업, 의사 단체, 환자 단체를 포함한 보건 의료 분야 관계자들로부터 500건 이상의 의견을 접수한 후, 의료 기기에 사용되는 생성형 인공지능을 위한 새로운 규제 프레임워크를 구축하는 방향으로 나아가고 있다. 이번 조치는 지난 8월 FDA가 발표한 논의 문서에 대한 대응으로, 해당 문서에서는 생성형 인공지능 기반 기기를 의사의 승인 방식에서 영감을 얻은 프레임워크를 통해 평가하고, 제품 출시 후 지속적인 모니터링에 중점을 둘 것을 제안했다.
규제에 관한 의견 차이
의견 수렴 결과, 이 기술을 어떻게 다룰 것인지에 대한 관점의 명확한 차이가 드러났다:
- 산업계: AdvaMed와 같은 이익 단체들은 생성형 인공지능만을 위한 새로운 프레임워크를 만드는 대신 기존의 규제 프레임워크를 활용할 것을 FDA에 요구하며, 이 기술을 포함한다고 해서 자동으로 추가적인 효율성 평가가 부과되어서는 안 된다고 강조했다.
- 의료계: SCAI의 심장 전문의들은 의사 결정 지원 도구와 실제 의사 결정 도구 사이의 정밀한 구분이 필요하다고 강조하며, 생성형 인공지능이 만들어내는 모호한 경계에 대해 경고했다.
- 환자 및 소비자: Generation Patient 단체는 제품 출시 후 모니터링 강화를 요구하며, 출시 전 엄격한 테스트 대신 사후 모니터링에 과도하게 의존하는 것은 위험의 부담을 환자에게 전가할 수 있다고 경고했다.
기술적 및 보안적 과제
스탠퍼드 대학교의 Brainstorm 연구소와 같은 연구실들은 본질적인 기술적 우려를 제기했다. 니나 파산(Nina Fasan) 박사는 생성형 인공지능 모델이 처음에는 안전한 행동을 보일 수 있지만, 대화가 길어짐에 따라 성능이 저하될 수 있다고 지적했다. 또한 자살 위험을 간과하거나 위급 상황에 대한 오진과 같이 중대한 결과를 초래하는 실패에 대해서는 별도의 평가 시스템이 필요하다고 제안하며, 인간 의사의 실수는 국지적인 반면 모델의 오류는 모든 환자와 위치에서 반복된다는 점을 언급했다.
사용자에게 미치는 영향은 무엇인가?
이러한 논의의 중요성은 기기의 안전성에 대한 법적 및 기술적 책임을 규정하는 데 있다. Oura와 같은 기업들이 일반적인 정보(Wellness)를 제공하는 기기에 대해 예외를 인정받으려 노력하는 반면, 환자 옹호론자들은 정서적 관계를 모방하는 채팅 도구가 정신 건강 관련 조언을 제공하는 데 점점 더 많이 사용되고 있다는 점을 들어 이들에 대한 엄격한 감독을 면제해서는 안 된다고 요구하고 있다. 출력값이 끊임없이 변화하는 기술 환경 속에서, FDA가 의료 혁신 장려와 환자 안전 보장 사이에서 어떻게 균형을 맞출 것인지는 여전히 미결 과제로 남아 있다.