새로운 연구에 따르면 미국 환자들의 헬스케어 인공지능에 대한 신뢰는 일상생활에서의 확산 속도를 따라가지 못하고 있다. 도구가 개인 데이터나 보호 대상 건강 정보에 접근해야 할수록 환자들의 사용 의향은 낮아졌지만, 건강 정보에 빠르게 접근할 수 있다는 점에서는 분명한 효용을 인식했다.
Ipsos는 Wolters Kluwer의 의뢰를 받아 3월에 조사를 실시했으며, 미국 환자 254명이 참여했다. 응답자의 40%는 개인적인 생활에서 인공지능을 최소 하루에 한 번 사용한다고 답했지만, 실질적인 건강 관련 업무에서의 사용은 제한적이었다.
효용과 신뢰 사이의 격차
응답자의 약 4분의 1은 인공지능으로 증상이나 건강 상태를 검색한 결과 더 이른 시기에 의료 서비스를 요청하게 됐다고 답했다. 또한 25~34세 참가자들과 농촌 지역 주민들은 의사의 답변을 기다리는 것보다 건강 관련 답변을 더 빨리 얻는 것이 주요 이점이라고 보았다.
그러나 응답자의 3분의 1 미만만이 개인 데이터에 의존하는 서비스에 인공지능을 사용할 의향을 보였다. 약 30%는 의료 서비스 제공자를 찾는 데 사용할 수 있다고 답했고, 28%는 식사·운동·수면을 위한 개인 맞춤형 계획을 만드는 데 사용할 수 있다고 답했으며, 건강보험 보장 내용을 이해하는 데 대해서는 그 비율이 19%에 불과했다.
개인정보 보호만이 유일한 우려는 아니다
환자의 70% 이상은 자신의 보호 대상 건강 정보의 개인정보 보호에 대해 우려하고 있다. 이러한 우려는 여성과 농촌 지역 주민에게서 더 뚜렷했다. 또한 72%는 인공지능 시스템의 편향을 걱정한다고 답했으며, 69%는 ‘환각’이라고 알려진 허위 또는 부정확한 답변이 생성될 것을 우려했다. 25~29세 참가자들은 다른 연령대와 비교해 인공지능의 위험에 대해 더 큰 우려를 나타냈다.
결과는 환자들의 수용 여부가 도구의 존재뿐 아니라 사용 방식과 결과에 대한 책임 주체에 달려 있음을 보여준다. 약 89%는 인공지능이 생성한 건강 관련 답변에 인간의 검토가 필요하다고 보았으며, 대부분의 참가자는 임상 인공지능 도구가 사용되기 전에 보건의료 체계로부터 공식적인 승인을 받아야 한다고 예상했다.
이는 보건의료 기관에 무엇을 의미하는가?
이 연구는 보건의료 기관이 인공지능 거버넌스를 위한 공개된 정책과 명확한 사용 기준을 마련해야 한다는 점을 보여준다. 특히 보호 대상 건강 정보를 다룰 때 더욱 그렇다. 또한 정보기술 부서의 승인 없이 도구를 사용하면 신뢰 격차를 해소하기보다 확대할 수 있다.
가장 중요한 미해결 문제는 인공지능의 권고가 잘못되거나 유해할 때 책임을 누가 질 것인지 정하는 것이다. 참가자의 거의 절반은 건강 조언을 제공하는 데 사용되는 인공지능 도구가 신약에 적용되는 심사와 마찬가지로 시험과 연방 차원의 승인을 받아야 한다고 답했다. 설문조사 결과만으로 이러한 규제 모델이 채택될 것이라고 입증할 수는 없지만, 개인정보 보호, 감독, 책임성이 헬스케어 인공지능 사용을 확대하기 위한 실질적인 조건이 됐다는 점은 분명히 보여준다.