Группа ведущих американских медицинских учреждений, включая Американскую ассоциацию больниц (AHA) и Американскую медицинскую ассоциацию (AMA), потребовала от Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) четко определить юридическую и техническую ответственность за медицинские изделия, в которые интегрированы технологии генеративного ИИ. Эти требования звучат на фоне обсуждения регуляторного предложения ведомства, направленного на создание структуры для работы с данными развивающимися инструментами.
Проблема ответственности и прозрачности
Медицинские организации утверждают, что у врачей и больниц нет технического потенциала или необходимых ресурсов для постоянного мониторинга работы сложных моделей ИИ. Американская ассоциация больниц подчеркнула, что разработчики имеют больше возможностей для оценки и обслуживания таких инструментов, отметив, что недостаток прозрачности в принципах работы этих моделей затрудняет для медицинских работников выявление программных дефектов или предвзятости в результатах.
Опасения по поводу участия человека
Американская медицинская ассоциация (AMA) подняла ключевой вопрос, касающийся концепции «человек в контуре» (human-in-the-loop), заявив, что присутствие врача, контролирующего результаты работы ИИ, не обязательно гарантирует снижение рисков. В организации пояснили, что чрезмерная зависимость от этих инструментов может привести к клиническим ошибкам, что требует оценки работы человека в рамках анализа рисков, а не опоры исключительно на принцип действия самого устройства.
Что меняется на практике?
- Перенос бремени ответственности: Медицинские учреждения стремятся защитить себя от юридической ответственности за технические неполадки, которые они не могут контролировать, полагая, что ответственность должна лежать на компаниях-производителях.
- Требования к «калорийным картам»: Некоторые группы, такие как WEDI, предложили обязать компании размещать пояснительные этикетки (подобные таблицам пищевой ценности), описывающие функции инструмента и потенциальные риски для пациентов и врачей.
- Разработка системы рисков: Медицинские учреждения считают, что оценка рисков только на основе «деятельности устройства» недостаточна, и необходимо учитывать другие переменные, такие как вероятность ошибок и негативные последствия использования.
Эти дискуссии происходят в то время, когда Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США готовится выпустить официальный проект руководства по регулированию медицинских изделий на базе генеративного ИИ в ближайшие месяцы, что может положить конец продолжающимся спорам о юридической и технической ответственности в этом жизненно важном секторе.