一项新研究显示，美国患者对医疗人工智能的信任度跟不上它在日常生活中的普及速度。工具越需要访问个人数据或受保护的健康信息，患者使用它的意愿就越低，尽管他们明显看到了快速获取信息的价值。
Ipsos于3月受Wolters Kluwer委托开展了这项调查，共包括254名美国患者。40%的受访者表示，他们在个人生活中每天至少使用一次人工智能，但在实际医疗任务中的使用仍然有限。
效用与信任之间的鸿沟
约四分之一的受访者表示，他们使用人工智能搜索症状或健康状况后，更早寻求了医疗服务。年龄在25至34岁之间的受访者以及农村居民还认为，与等待医生回复相比，更快获得健康问题的答案是人工智能的主要益处。
但只有不到三分之一的受访者表示愿意使用依赖个人数据的服务。约30%的人表示可能会使用人工智能寻找医疗服务提供者，28%的人可能会使用它制定个性化的饮食、锻炼或睡眠计划，而在理解医疗保险覆盖范围方面，这一比例仅为19%。
隐私并非唯一担忧
超过70%的患者担心其受保护健康信息的隐私。女性和农村居民的这类担忧更为明显。此外，72%的人表示担心人工智能系统存在偏见，69%的人担心人工智能生成虚构或不准确的回答，这一问题被称为“幻觉”。与其他年龄组相比，25至29岁的受访者对人工智能风险更为担忧。
研究结果表明，患者的接受程度不仅取决于工具是否存在，还取决于使用机制以及谁对其结果负责。约89%的人认为，人工智能生成的健康回答需要人工审核；大多数受访者还预计，临床人工智能工具在使用前应获得卫生系统的正式批准。
这对医疗机构意味着什么？
研究表明，医疗机构需要制定公开的人工智能治理政策和明确的使用标准，尤其是在处理受保护健康信息时。未经信息技术部门批准使用工具，可能会扩大而不是缩小信任鸿沟。
当人工智能的建议错误或造成伤害时，如何确定责任，是最重要的开放性问题。近一半的受访者表示，用于提供健康建议的人工智能工具应接受测试并获得联邦批准，类似于对新药实施的审查。调查结果本身并不能证明这一监管模式将被采用，但它们表明，隐私、监督和问责已成为扩大医疗人工智能应用的实际条件。