Американская медицинская ассоциация (AMA) в недавнем руководящем отчете подтвердила, что ответственность за ошибки, вызванные инструментами искусственного интеллекта в медицинском секторе, не лежит исключительно на врачах, а должна быть справедливо распределена между разработчиками этих технологий и медицинскими учреждениями, которые их внедряют.
Распределение ответственности в среде ИИ
Согласно новой структуре, каждая сторона играет определенную роль в снижении рисков:
- Разработчики: несут основную ответственность за проектирование безопасных и точных инструментов, а также за предоставление прозрачной информации о предполагаемом использовании, производительности и технических ограничениях, вместо того чтобы ограничиваться простым снятием с себя юридической ответственности.
- Медицинские учреждения (операторы): больницы и системы здравоохранения несут ответственность за выбор подходящих инструментов, их оценку перед внедрением, обеспечение необходимого обучения врачей и мониторинг работы моделей для предотвращения снижения их точности с течением времени.
- Врачи: остаются ответственными за применение своего клинического суждения, включая проверку результатов работы ИИ и отклонение рекомендаций при необходимости, однако они не должны служить «страховочной сеткой» для технических ошибок, которые они не могут контролировать или идентифицировать.
Почему это важно?
Этот шаг предпринят в то время, когда внедрение искусственного интеллекта для поддержки принятия клинических решений и снижения административной нагрузки растет. Тем не менее, опрос, проведенный Американской медицинской ассоциацией в 2026 году, показал, что треть врачей считают ясность рамок юридической ответственности основным стимулом для внедрения этих технологий. Опрос также выявил значительный пробел в обучении: четверть врачей не получали никакого обучения использованию инструментов ИИ, в то время как 92% выразили желание пройти дополнительное обучение.
Что изменится на практике?
Цель структуры — установить четкие стандарты, которые предоставят пострадавшим от ошибок ИИ юридические пути для получения компенсации от фактически ответственной стороны. Ассоциация утверждает, что такое разграничение ответственности не только защищает врачей от несправедливого судебного преследования, но и повышает безопасность пациентов, обязывая каждую сторону применять лучшие практики в своей сфере компетенции. Кроме того, в своих комментариях, направленных в Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), Ассоциация призвала возложить на разработчиков ответственность за мониторинг медицинских устройств, основанных на генеративном ИИ, чтобы избежать перегрузки поставщиков медицинских услуг, особенно в небольших и сельских учреждениях.