Новое исследование показывает, что доверие американских пациентов к медицинскому искусственному интеллекту не успевает за скоростью его распространения в повседневной жизни. Чем чаще инструмент требует доступа к персональным данным или защищённой медицинской информации, тем меньше пациенты готовы его использовать, несмотря на очевидную пользу быстрого доступа к информации.
Компания Ipsos провела опрос по заказу Wolters Kluwer в марте; в нём приняли участие 254 пациента в США. 40% участников заявили, что используют искусственный интеллект в личной жизни не реже одного раза в день, однако его применение для практических медицинских задач оставалось ограниченным.
Разрыв между пользой и доверием
Около четверти участников заявили, что поиск с помощью искусственного интеллекта информации о симптомах или состояниях здоровья побудил их раньше обратиться за медицинской помощью. Участники в возрасте от 25 до 34 лет и жители сельских районов также считали главным преимуществом возможность быстрее получать ответы на медицинские вопросы по сравнению с ожиданием ответа врача.
Однако менее трети участников выразили готовность использовать искусственный интеллект в услугах, основанных на персональных данных. Около 30% могли бы использовать его для поиска поставщика медицинских услуг, 28% — для создания персонального плана питания, физических упражнений или сна, тогда как в вопросах понимания покрытия медицинской страховки этот показатель составил всего 19%.
Конфиденциальность — не единственный источник обеспокоенности
Более 70% пациентов обеспокоены конфиденциальностью своей защищённой медицинской информации. Эти опасения были более выражены среди женщин и жителей сельских районов. Кроме того, 72% заявили, что опасаются предвзятости систем искусственного интеллекта, а 69% выразили обеспокоенность тем, что система может генерировать вымышленные или неточные ответы — проблемой, известной как «галлюцинации». Участники в возрасте от 25 до 29 лет сильнее беспокоились о рисках искусственного интеллекта по сравнению с другими возрастными группами.
Результаты показывают, что принятие пациентами зависит не только от наличия инструмента, но и от механизма его использования и того, кто несёт ответственность за его последствия. Около 89% считали, что медицинские ответы, генерируемые искусственным интеллектом, нуждаются в проверке человеком, а большинство участников ожидали, что клинические инструменты искусственного интеллекта получат официальное одобрение системы здравоохранения до начала их использования.
Что это означает для организаций здравоохранения?
Исследование показывает, что медицинским учреждениям необходимы публично заявленные политики управления искусственным интеллектом и чёткие стандарты его использования, особенно когда он работает с защищённой медицинской информацией. Кроме того, применение инструментов без одобрения отдела информационных технологий может увеличить разрыв в доверии, а не сократить его.
Главный открытый вопрос заключается в определении ответственности, если рекомендация искусственного интеллекта окажется ошибочной или вредной. Почти половина участников заявили, что инструменты искусственного интеллекта, используемые для предоставления медицинских рекомендаций, должны проходить испытания и получать федеральное одобрение, подобно проверкам, обязательным для новых лекарственных препаратов. Результаты опроса сами по себе не доказывают, что такая регуляторная модель будет принята, однако показывают, что конфиденциальность, контроль и подотчётность стали практическими условиями расширения использования медицинского искусственного интеллекта.