美国食品药品监督管理局（FDA）正接近为生成式人工智能在医疗器械中的使用建立监管框架，而目前尚无任何以受 FDA 监管方式使用该技术的医疗器械。医疗器械企业正在关注该机构将选择的方向，尤其是如何证明安全性和有效性，以及如何确保模型上市后持续保持性能。
该机构于8月发布了一份讨论文件，征求利益相关方对如何确保使用人工智能的器械在上市前及上市后的安全性的意见。美国卫生与公众服务部发言人 Grace Davis Jamison 表示，目标是了解生成式人工智能支持的器械所面临的特殊挑战，并协助制定未来的指南。
该技术存在于试验中，但尚未存在于获批产品中
文章指出，截至目前，FDA 已批准超过1,500种包含人工智能组件的器械，但尚未批准任何使用生成式人工智能的器械。不过，该机构已向少数正在开发的工具授予突破性器械认定，其中包括 Aidoc 和 Radiology Partners 的一家子公司分别开发的两项功能，用于分析胸部 X 光片并起草放射学报告；此外还有 Modella AI 开发的一款用于分析病理图像和临床数据的工具。
FDA 还将依靠生成式人工智能的器械纳入一项名为 Technology-Enabled Meaningful Patient Outcomes（技术赋能的有意义患者结局）的数字健康试点项目，即 TEMPO。该项目允许企业收集真实世界数据，同时免于满足上市前许可要求。参与者包括 Limbic，该公司通过电话提供认知行为治疗，由人工智能语音代理与用户互动。
相比之下，目前的一些功能并不接受 FDA 审查。Dexcom 于2024年在其无需处方即可获得的葡萄糖传感器中增加了一项生成式功能，用于分析用户数据并提供个性化健康建议；该公司表示，这项功能不需要提交上市前监管申请。
从产品测试转向基于能力的评估
讨论文件承认，生成式人工智能难以直接纳入现有器械框架。这些系统可能会针对变化的输入生成不同的文本或图像，因此难以测试所有可能性并衡量安全性和有效性。此外，幻觉现象，即生成看似可信但实际错误的信息，也带来了额外担忧，同时模型性能可能随时间下降。
FDA 提出了“基于能力的评估”概念，借鉴通过考试、监督和公开报告对医生进行评估的方式。与其试图检查每一种可能的输入和输出，上市前审查或许会更多依赖基准比较以及衡量所需能力水平的测试。
该机构还提出建立自愿性的基础模型主文件。按照这一设想，模型开发者或基础平台可以向 FDA 提交保密信息，使监管机构能够了解医疗器械内部所使用的技术，而不要求每家器械开发商披露其所依赖模型的全部商业机密。
上市后监测将成为整体方案的一部分
该文件强调了器械上市后监测的重要性，FDA 正在研究，是否可以在上市前允许更大程度的不确定性，同时更多依靠后续数据和监测。Haynes Boone 律师 Kayla Cristales 认为，该机构可能会在很大程度上依赖企业自行提交更新并跟踪器械的发展。
这一点解决的是仅靠初始许可测试无法解决的问题：模型可能发生变化，使用数据可能改变，或者可能出现试验期间并不明显的故障模式。不过，消息来源目前尚未确定监测标准、更新频率，或开发者与医疗机构各自承担的具体责任。
为什么这则消息重要？
企业正以不同程度的期待等待相关指南。Ketryx 首席执行官 Erez Kaminski 表示，一些开发商正在继续推进，而另一些则更愿意等待，这取决于企业规模及其风险承受准备程度。文章援引的专家认为，目前许多工具侧重于行政用途、改善工作流程或执行已知指南，这些领域可能并不需要将产品视为受监管的医疗器械。
而像 Aidoc 这样已经提前接受进入受监管领域的企业，则将专门指南视为有益内容，尽管并不认为它是推进工作的决定性条件。UpDoc 首席执行官 Sharif Vakili 表示，缺乏监管层面的领导可能会使市场陷入不同规则的混合状态，或导致人们对不当用途作出迟来的反应。
从编辑角度看，真正的变化尚不在于具有约束力的规则已经发布，而在于 FDA 正从围绕人工智能的泛泛讨论，转向测试具体的监管工具：基于能力的评估、基础模型主文件以及持续监测。这为企业提供了初步信号，但尚未解决如何批准不断变化的模型，或当性能下降时如何确定责任。
这些问题的影响超出了器械企业。纽约大学格罗斯曼医学院医学伦理学助理教授 Kellie Owens 呼吁加强上市后监管；Generation Patient 的 Luis Gil Abinader 则要求加强对数字陪伴工具和聊天机器人的监督，无论它们是否以健康用途进行营销。目前，商业聊天机器人仍不属于 FDA 的监管范围，尽管人们担心其被用于心理支持，其中一些机器人还虚假声称能够提供心理治疗。此外，FDA 器械中心已将数字心理健康器械的临床证据指南列入本财年正在制定的工作清单。