米国食品医薬品局（FDA）は、医療機器における生成AIの利用に関する規制枠組みの策定に近づいている。ただし、現時点ではFDAの規制対象となる形でこの技術を利用した医療機器は存在しない。医療機器企業は、特に安全性と有効性の証明、ならびに市場投入後もモデルの性能を維持する保証に関して、同局がどの方向を選ぶのかを注視している。
同局は8月、医療機器が市場投入前後に安全であることをどのように保証するかについて関係者の意見を求めるディスカッションペーパーを公表した。米国保健福祉省の報道官であるGrace Davis Jamison氏は、目的は生成AIを搭載した機器に特有の課題を理解し、将来の指針の策定を支援することだと述べた。
承認済み製品ではなく、実験段階にある技術
記事によると、FDAはこれまでにAIコンポーネントを含む1,500を超える機器を承認しているが、生成AIを利用する機器は承認していない。それでも同局は、開発中の限られた数のツールにブレークスルー・デバイス指定を付与している。その中には、胸部X線画像を分析して放射線科レポートの下書きを作成する、AidocとRadiology Partnersの子会社による2つの別個の機能や、病理画像と臨床データを分析するModella AIのツールが含まれる。
FDAはまた、Technology-Enabled Meaningful Patient Outcomes、略称TEMPOというデジタルヘルスのパイロットプログラムに、生成AIに依存する機器を組み入れた。このプログラムでは、企業は市販前承認の要件を免除され、リアルワールドデータを収集できる。参加企業の一つであるLimbicは、AIで動作する音声エージェントが利用者とやり取りする電話を通じて、認知行動療法を提供している。
一方、現在の一部の機能はFDAの審査対象になっていない。Dexcomは2024年、処方箋なしで入手できるグルコースセンサーに生成機能を追加し、利用者のデータを分析して個別化されたウェルネス推奨を提供した。同社は、この機能には市販前の規制申請が必要なかったと述べている。
製品試験から能力に基づく評価へ
ディスカッションペーパーは、生成AIが既存の機器枠組みに容易には当てはまらないことを認めている。システムは変化する入力に応じて異なる文章や画像を生成する可能性があり、あらゆる可能性を試験し、安全性と有効性を測定することが難しくなる。また、信頼できるように見える誤情報を生成する「幻覚」や、時間の経過に伴うモデル性能の低下の可能性も、さらなる懸念を生じさせる。
FDAは、試験、監督、公的な報告を通じて医師を評価する方法を参考に、「能力に基づく評価」という概念を提案している。考えられるすべての入力と出力を調べようとする代わりに、市販前審査はベンチマークと、求められる能力水準を測定する試験に、より大きく依存する可能性がある。
同局は、基盤モデルについて任意で提出できるマスターファイルを作成する案も示している。この構想では、モデルや基盤プラットフォームの開発者がFDAに機密情報を提出できる。これにより規制当局は、各医療機器開発者に依存するモデルの企業秘密をすべて開示させることなく、医療機器内で使用される技術を理解できる。
市販後監視が方程式の一部になる
この文書は、市場投入後の機器監視の重要性を強調している。FDAは、市販前により大きな不確実性を許容し、その代わりに市販後のデータと監視により大きく依存することが許容されるかどうかを検討している。Haynes Booneの弁護士であるKayla Cristales氏は、同局が更新情報の提出や機器の進化の追跡について、企業自体に大きく依存する可能性があると考えている。
この点は、初回の承認試験だけでは解決できない問題に対処する。モデルが変化したり、利用データが変わったり、試験中には明確でなかった故障パターンが現れたりする可能性があるためだ。しかし、情報源は現時点で、監視の基準、更新の頻度、開発者と医療機関それぞれの詳細な責任を定めていない。
なぜこのニュースが重要なのか？
企業はそれぞれ異なる度合いで指針を待っている。Ketryxの最高経営責任者（CEO）であるErez Kaminski氏は、一部の開発者は前進している一方、企業規模やリスクへの備えに応じて、他の開発者は待つことを選んでいると述べた。記事が引用する専門家によれば、現在のツールの多くは管理業務、ワークフローの改善、既知の指針の適用に重点を置いており、これらの分野では製品を規制対象の医療機器とみなす必要がない可能性がある。
一方、Aidocのように規制分野への参入をあらかじめ受け入れている企業は、専門的な指針を有用なものとして扱っているが、前進するための決定的な条件とはみなしていない。UpDocの最高経営責任者（CEO）であるSharif Vakili氏は、規制上のリーダーシップが欠如すれば、市場が異なる規則の混在や、悪用への対応の遅れに向かう可能性があると述べた。
編集部の見解では、実際の変化はまだ拘束力のある規則の発行ではなく、FDAがAIに関する一般的な議論から、具体的な規制手段の検討へ移行したことにある。すなわち、能力に基づく評価、基盤モデルのファイル、継続的な監視である。これは企業に初期の手がかりを与えるものの、変化するモデルをどのように承認するか、性能が低下した際に責任をどのように定めるかについては、まだ決着していない。
提起された問いは、医療機器企業にとどまらない。NYU Grossman School of Medicineの医療倫理学助教授であるKellie Owens氏は、市販後のより強力な監督を求めた。また、Generation PatientのLuis Gil Abinader氏は、デジタルコンパニオンやチャットボットが健康目的で販売されたかどうかにかかわらず、それらに対する監督の強化を求めた。商用チャットボットは現在もFDAの範囲外にあるが、メンタルヘルス支援への利用については懸念があり、その中には心理療法を提供していると虚偽の主張をするものもある。FDAの機器センターはまた、デジタルメンタルヘルス機器の臨床エビデンスに関する指針を、現会計年度の策定中の作業一覧に加えた。