包括美国医院协会（AHA）和美国医学会（AMA）在内的一批美国主要医疗机构，明确要求美国食品药品监督管理局（FDA）界定整合了生成式人工智能技术的医疗设备的法律与技术责任。这些诉求是在针对该机构旨在建立框架以处理这些新兴工具的监管提案所作出的反应。
责任与透明度的挑战
医疗机构争辩称，医生和医院不具备持续监控复杂人工智能模型性能的技术能力或必要资源。美国医院协会强调，开发者是最有能力评估和维护这些工具的一方，并指出这些模型工作方式缺乏透明度，使得护理提供者很难发现软件缺陷或输出结果中的偏见。
对人类监督的担忧
美国医学会（AMA）提出了一个关于“人在回路”（human-in-the-loop）概念的核心观点，强调有医生监督人工智能的输出结果并不能必然确保风险降低。该机构解释说，过度依赖这些工具可能会导致临床错误，因此有必要在风险评估框架内对人类要素的性能进行评估，而不仅仅依赖于设备的工作性质。
实际发生了什么改变？
- 转移责任负担：医疗机构力求保护自身免受其无法控制的技术错误所带来的法律责任，认为责任应当落在制造商肩上。
- 要求提供“营养标签”：诸如（WEDI）等部分团体建议，应当强制企业附上说明性标签（类似于营养成分表），向患者和医生阐明工具的功能及潜在风险。
- 开发风险框架：医疗机构认为仅根据“设备活动”进行风险评估是不够的，还必须纳入其他变量，例如出错概率以及使用所产生的负面结果。
这些讨论正值美国食品药品监督管理局准备在未来几个月内发布关于监管基于生成式人工智能的医疗设备的正式指导草案之际，这可能会为这个关键领域的法律和技术责任争端画上句号。