新たな調査により、米国の患者が医療AIに寄せる信頼は、日常生活におけるその普及の速さに追いついていないことが明らかになった。ツールが個人データや保護対象の健康情報へのアクセスを必要とするほど、患者がそれを利用する意欲は低下した。一方で、情報に迅速にアクセスできることには明確な利点があると考えている。
IpsosはWolters Kluwerの委託を受け、3月に調査を実施し、米国の患者254人を対象とした。回答者の40％は、個人生活で少なくとも1日1回AIを利用していると答えたが、実際の健康関連業務での利用は限定的だった。
利便性と信頼の隔たり
約4分の1の回答者は、AIで症状や健康状態を調べたことが、より早い時期に医療を受けるきっかけになったと答えた。また、25歳から34歳の参加者と農村地域の住民は、医師からの返答を待つことに比べ、健康に関する回答を迅速に得られることが主な利点だと考えた。
しかし、個人データに依存するサービスでAIを利用する意欲を示した回答者は3分の1未満だった。約30％は医療提供者を探すために利用する可能性があると答え、28％は食事、運動、睡眠に関する個別計画の作成に利用する可能性があると答えた。一方、健康保険の補償内容の理解については、わずか19％だった。
プライバシーだけが懸念の原因ではない
患者の70％超が、自身の保護対象健康情報のプライバシーについて懸念している。こうした懸念は、女性と農村地域の住民でより明確だった。また、72％はAIシステムの偏りを懸念し、69％は「ハルシネーション」と呼ばれる、捏造された回答や不正確な回答が生成されることに懸念を示した。25歳から29歳の参加者は、他の年齢層と比べてAIのリスクをより強く懸念していた。
調査結果は、患者の受容がツールの存在だけでなく、その利用方法と結果に対する責任を誰が負うかにも関係していることを示している。約89％は、AIが生成する健康に関する回答には人間による確認が必要だと考えた。また、回答者の大半は、臨床AIツールが利用される前に、医療制度による正式な承認を受けると予想した。
医療機関にとって何を意味するのか
この調査は、医療機関がAIガバナンスに関する公表された方針と、特に保護対象の健康情報を扱う場合の明確な利用基準を必要としていることを示している。また、情報技術部門の承認なしにツールを利用することは、信頼の隔たりを埋めるどころか広げる可能性がある。
最大の未解決の問題は、AIの推奨が誤っていたり有害だったりした場合に、誰が責任を負うのかを定めることにある。参加者のおよそ半数は、健康に関する助言を提供するために利用されるAIツールは、新薬に課される審査と同様に、試験と連邦政府の承認を受けるべきだと答えた。調査結果だけで、この規制モデルが採用されることが証明されるわけではない。しかし、プライバシー、監督、説明責任が、医療AIの利用拡大に向けた実際的な条件になっていることを示している。