Американская медицинская ассоциация (AMA) выпустила новую основу для управления агентами искусственного интеллекта в здравоохранении, стремясь определить условия использования инструментов, способных выполнять мног этапные клинические задачи с определённой степенью автономности. Основа подчёркивает необходимость опираться на чёткие доказательства и поддерживать высокое качество работы до того, как таким инструментам будет разрешено выполнять функции, затрагивающие медицинскую помощь пациентам.
Агенты искусственного интеллекта отличаются от традиционных инструментов генеративного искусственного интеллекта способностью выполнять последовательность действий без постоянного надзора человека. Потенциальные варианты использования включают автоматизацию клинической документации, помощь в диагностике и мониторинг пациентов. Однако ошибка или предвзятость в самостоятельном решении могут привести к вреду для пациента прежде, чем врач успеет вмешаться.
Четыре вопроса перед делегированием задачи
Основа AMA предлагает строить оценку любого клинического агента на четырёх ключевых вопросах:
- Какую клиническую функцию выполняет система искусственного интеллекта?
- Какие существуют доказательства её способности выполнять эту функцию и что произойдёт в случае сбоя?
- Какие действия следует разрешить системе выполнять и при каких условиях?
- Кто несёт ответственность за риски и результаты?
Ассоциация резюмирует свою позицию необходимостью согласовать доказательства, полномочия, надзор и подотчётность с целью улучшения медицинской помощи пациентам, одновременно подчёркивая центральную роль врачей в разработке и внедрении этих технологий.
Почему эта основа важна?
Инициатива появляется в момент расширения испытаний агентов искусственного интеллекта внутри организаций здравоохранения. Согласно опросу 250 руководителей сферы здравоохранения в США, 28% организаций заявили, что уже внедрили инструменты такого типа, тогда как 44% сообщили о проведении испытаний или проектов по проверке концепции. Большинство участников ожидают трансформационного воздействия на клинические рабочие процессы.
В то же время 72% участников заявили, что инструменты агентов искусственного интеллекта иногда внедряются без согласования с отделом информационных технологий. Это указывает на пробел в институциональном надзоре: более половины участников назвали среди основных опасений вероятность нарушения требований комплаенса или регулирования, а также несанкционированный доступ к защищённой медицинской информации.
Рекомендации в отсутствие всеобъемлющего федерального регулирования
Сфера здравоохранения действует в условиях незавершённого федерального регулирования искусственного интеллекта, что побудило профессиональные и отраслевые группы разработать временные принципы и меры контроля. В разных штатах США законы различаются: одни усиливают ограничения, другие тестируют варианты применения медицинской помощи с использованием искусственного интеллекта. По данным юридической и консалтинговой компании Manatt, в течение 2025 года 47 штатов представили более 250 законопроектов, затрагивающих искусственный интеллект в здравоохранении.
Сама по себе эта основа не определяет порядок утверждения каждого агента и не устраняет операционные риски, однако она предлагает практическую базу для постановки вопросов об ответственности, полномочиях и доказательствах до внедрения автономных инструментов в процессы оказания медицинской помощи пациентам. Открытыми остаются вопросы о том, как перевести эти принципы в измеримые требования и как распределить ответственность между врачами, организациями и разработчиками систем.