米国病院協会（AHA）や米国医師会（AMA）を含む米国の主要な医療機関グループは、生成AI技術を統合した医療機器に関する法的および技術的な責任の所在を明確にするよう、米国食品医薬品局（FDA）に要求しました。これらの要求は、これらの新たなツールに対処するための枠組みを構築することを目的とした、FDAの規制案に対する反応の一環として行われました。
責任と透明性の課題
医療機関は、医師や病院には複雑なAIモデルの性能を継続的に監視するための技術的能力やリソースが備わっていないと主張しています。米国病院協会は、開発者こそがこれらのツールを評価・保守するのに最も適した立場にあると強調し、モデルの仕組みにおける透明性の欠如が、医療提供者によるソフトウェアの欠陥や出力のバイアス（偏り）の発見を困難にしていると指摘しました。
人間による監視に関する懸念
米国医師会（AMA）は、「ヒューマン・イン・ザ・ループ（人間が介在する仕組み）」という概念に関連する重要な点を提起し、AIの出力を監視する医師の存在が必ずしもリスクの低減を保証するものではないと強調しました。また、これらのツールへの過度な依存は臨床上の誤りにつながる可能性があるため、機器の動作特性だけでなく、リスク評価の枠組みの中に人間側のパフォーマンス評価も含める必要があると説明しました。
実務上の変更点
- 責任の所在の移管：医療機関は、自らが制御できない技術的な誤りに対する法的責任から身を守ることを求めており、責任は製造企業が負うべきであると考えています。
- 「栄養成分表示」の要求：WEDIなどの一部の団体は、ツールの機能や患者および医師に対する潜在的なリスクを明記した説明ラベル（食品の栄養成分表示のようなもの）を企業に義務付ける必要性を提案しました。
- リスクフレームワークの策定：医療機関は、「機器の活動」のみに基づくリスク評価では不十分であり、エラーの可能性や使用に伴う否定的な結果など、他の変数を組み込むべきだと考えています。
これらの議論は、米国食品医薬品局が今後数ヶ月以内に生成AIを活用した医療機器の規制に関する公式なガイダンス案を発表する準備を進めている中で行われており、この重要なセクターにおける法的および技術的な責任をめぐる議論に終止符が打たれる可能性があります。