Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) движется к созданию новой нормативной базы для генеративного искусственного интеллекта, используемого в медицинских устройствах, после получения более 500 комментариев от участников сектора здравоохранения, включая производителей медицинского оборудования, группы врачей и организации пациентов. Этот шаг стал ответом на дискуссионный документ, выпущенный Управлением в августе прошлого года, в котором предлагалось оценивать устройства на базе генеративного ИИ через структуру, вдохновленную клиническим одобрением, с упором на непрерывный мониторинг после вывода продукта на рынок.
Расхождения во мнениях относительно регулирования
Комментарии выявили явный раскол во взглядах на то, как следует подходить к этой технологии:
- Промышленный сектор: Группы по лоббированию интересов, такие как AdvaMed, призвали Управление опираться на существующие нормативные базы вместо создания новой структуры специально для генеративного ИИ, подчеркивая, что включение этой технологии не должно автоматически накладывать дополнительные оценки эффективности.
- Медицинское сообщество: Кардиологи из Ассоциации интервенционной кардиологии и эндоваскулярных процедур (SCAI) подчеркнули необходимость четкого разграничения между инструментами поддержки принятия решений и инструментами фактического принятия решений, предупреждая о размытой границе, которую создает генеративный ИИ.
- Пациенты и потребители: Организация Generation Patient призвала усилить мониторинг после вывода продукта на рынок, предупредив, что чрезмерная зависимость от последующего наблюдения вместо строгих предварительных испытаний может переложить бремя рисков на пациентов.
Технические проблемы и вопросы безопасности
Исследовательские лаборатории, такие как лаборатория Brainstorm в Стэнфордском университете, выразили серьезные технические опасения. Доктор Нина Васан отметила, что модели генеративного ИИ могут демонстрировать безопасное поведение на начальном этапе, но их показатели ухудшаются по мере продолжения диалога. Она также предложила необходимость создания отдельной системы оценки для критических сбоев, таких как пропуск рисков самоубийства или неверная диагностика критических состояний, указав на то, что ошибка модели повторяется у всех пациентов и во всех локациях, в отличие от ошибки врача-человека, которая носит локальный характер.
Что это значит для пользователей?
Важность этих дискуссий заключается в определении юридической и технической ответственности за безопасность устройств. В то время как такие компании, как Oura, стремятся получить исключения для устройств, предоставляющих общую информацию (Wellness), защитники прав пациентов требуют не освобождать от строгого контроля чат-боты, имитирующие эмоциональные отношения, учитывая их растущее использование для предоставления советов по психическому здоровью. Вопрос о том, как Управление сможет сбалансировать поощрение медицинских инноваций и обеспечение безопасности пациентов в условиях технологии, результаты которой постоянно меняются, остается открытым.