米国医師会（AMA）は、医療におけるAIエージェントのガバナンスに関する新たな枠組みを発表した。これは、一定の自律性をもって複数段階の臨床業務を実行できるツールの利用条件を定めようとするものである。この枠組みは、患者ケアに関わる機能を担わせる前に、こうしたソリューションが明確なエビデンスに基づき、高品質な性能を維持する必要性に焦点を当てている。
AIエージェントは、継続的な人間の監督なしに一連の手続きを実行できる点で、従来の生成AIツールとは異なる。想定される用途には、周辺的な臨床記録作成、診断支援、患者モニタリングなどが含まれる。しかし、自律的な判断における誤りや偏りは、医師が介入する前に患者に被害をもたらす可能性がある。
業務を委任する前の4つの問い
AMAの枠組みは、臨床AIエージェントの評価プロセスを、次の4つの主要な問いに基づくものとすることを提案している。
- AIシステムはどの臨床機能を実行するのか。
- その機能を実行できる能力について、どのようなエビデンスがあり、失敗した場合には何が起きるのか。
- システムにどのような行為を、どのような条件の下で許可すべきか。
- リスクと結果に対して誰が責任を負うのか。
同協会は、エビデンス、権限、監督、説明責任を患者ケアの改善という目標に一致させる必要があると立場を要約しており、これらの技術の開発と導入における医師の中心的な役割を強調している。
なぜこの枠組みが重要なのか
この取り組みは、医療機関内でAIエージェントの試験が拡大している時期に行われた。米国の医療分野のリーダー250人を対象とした調査によると、28%の組織がすでにこの種のツールを導入したと回答した一方、44%は試験または概念実証プロジェクトを実施していると答えた。回答者の大半は、臨床ワークフローに変革的な影響が及ぶと予想している。
一方、回答者の72%は、AIエージェントのツールが情報技術部門の承認なしに導入されることがあると答えた。これは組織的な監督における隔たりを示している。回答者の半数以上は、コンプライアンスまたは規制上の要件への違反の可能性や、保護対象の医療情報への不正アクセスを、主な懸念事項として挙げた。
包括的な連邦規制がない中での指針
医療分野はAIに関する連邦規制が未整備な状況にあり、専門家団体や業界団体は暫定的な原則と管理策の策定を進めている。米国では、規制を強化する州と、AIを活用した医療の利用を試す州との間で法律が異なっている。法律・コンサルティング会社のManattによると、2025年には47州が医療におけるAIに影響を及ぼす250本を超える法案を提出した。
この枠組みだけで各エージェントの導入方法を定めたり、運用上のリスクを取り除いたりすることはない。しかし、自律型ツールを患者ケアの経路に導入する前に、責任、権限、エビデンスに関する問いを提起するための実務的な基盤を提供する。こうした原則を測定可能な要件にどのように落とし込み、医師、医療機関、システム開発者の間で責任をどのように分担するかは、引き続き未解決の問題である。