Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) приближается к созданию нормативной базы для использования генеративного искусственного интеллекта в медицинских устройствах — в то время как до сих пор не существует ни одного медицинского устройства, использующего эту технологию регулируемым FDA образом. Компании — производители медицинских устройств следят за тем, какой путь выберет ведомство, особенно в вопросах доказательства безопасности и эффективности, а также обеспечения стабильной работы моделей после их вывода на рынок.
В августе ведомство опубликовало дискуссионный документ, в котором запросило мнения заинтересованных сторон о том, как обеспечить безопасность устройств, использующих искусственный интеллект, до и после их выхода на рынок. Grace Davis Jamison, представительница Министерства здравоохранения и социальных служб США, заявила, что цель состоит в понимании специфических проблем устройств на основе генеративного ИИ и содействии подготовке будущих рекомендаций.
Технология есть в испытаниях, но пока не в одобренной продукции
В материале отмечается, что FDA на данный момент одобрило более 1 500 устройств, включающих компонент искусственного интеллекта, но не одобрило ни одного устройства, использующего генеративный ИИ. Тем не менее ведомство присвоило статус «прорывного устройства» ограниченному числу разрабатываемых инструментов, включая два отдельных решения от Aidoc и дочерней компании Radiology Partners для анализа рентгеновских снимков грудной клетки и подготовки черновиков радиологических заключений, а также инструмент Modella AI для анализа патологоанатомических изображений и клинических данных.
FDA также включило устройства на основе генеративного ИИ в экспериментальную программу цифрового здравоохранения под названием Technology-Enabled Meaningful Patient Outcomes, или TEMPO. Программа позволяет компаниям собирать данные из реальной практики, освобождая их от требований предварительного разрешения на маркетинг. Среди участников — Limbic, предлагающая когнитивно-поведенческую терапию по телефонным звонкам, во время которых работающий на базе ИИ голосовой агент взаимодействует с пользователем.
В то же время некоторые существующие функции не проходят проверку FDA. В 2024 году Dexcom добавила генеративную функцию в доступные без рецепта сенсоры глюкозы для анализа пользовательских данных и предоставления персонализированных рекомендаций по здоровью; компания заявила, что для этой функции не требовалась заявка на предварительное разрешение на маркетинг.
От тестирования продукта к оценке на основе компетентности
В дискуссионном документе признаётся, что генеративный ИИ нелегко вписывается в существующие рамки регулирования медицинских устройств. Такие системы могут создавать разные тексты или изображения в ответ на изменяющиеся входные данные, что усложняет проверку всех возможных сценариев и измерение безопасности и эффективности. Дополнительные опасения вызывает галлюцинация — создание ошибочной информации, которая выглядит достоверной, — а также возможность снижения производительности модели с течением времени.
FDA предлагает концепцию «оценки на основе компетентности», опираясь на методы оценки врачей с помощью экзаменов, надзора и публичной отчётности. Вместо попытки проверить каждый возможный вход и выход предварительная оценка перед выводом на рынок может в большей степени основываться на сравнительном тестировании и испытаниях, измеряющих необходимый уровень компетентности.
Ведомство также выдвигает идею создания добровольных основных досье для базовых моделей. Согласно этой концепции, разработчики моделей или базовых платформ смогут предоставлять FDA конфиденциальную информацию, что позволит регулятору понять технологию, используемую внутри медицинского устройства, не требуя от каждого разработчика устройства раскрывать все коммерческие тайны модели, на которую он опирается.
Пострегистрационный мониторинг станет частью уравнения
В документе подчёркивается важность мониторинга устройств после их вывода на рынок, и FDA изучает, допустимо ли разрешать более высокий уровень неопределённости до выхода на рынок, компенсируя это более активным использованием последующих данных и мониторинга. Kayla Cristales, юристка Haynes Boone, считает, что ведомство может в значительной степени полагаться на сами компании в вопросах предоставления обновлений и отслеживания развития устройств.
Этот аспект затрагивает проблему, которую одно лишь первоначальное разрешительное испытание не решает: модель может измениться, данные об использовании могут трансформироваться, а схемы отказов, неочевидные во время испытаний, могут проявиться позднее. Однако источник пока не определяет критерии мониторинга, периодичность обновлений или детальную ответственность разработчиков и медицинских учреждений.
Почему эта новость важна?
Компании ожидают рекомендаций с разной степенью готовности. Erez Kaminski, генеральный директор Ketryx, заявил, что некоторые разработчики продолжают работу, тогда как другие предпочитают ждать — в зависимости от размера компании и её готовности к риску. По мнению экспертов, которых цитирует материал, многие существующие инструменты сосредоточены на административных задачах, оптимизации рабочих процессов или применении известных рекомендаций; эти области могут не требовать признания продукта медицинским устройством, подпадающим под регулирование.
Компании, которые заранее согласились войти в регулируемую сферу, например Aidoc, считают специализированные рекомендации полезными, хотя и не рассматривают их как решающее условие для продвижения. Sharif Vakili, генеральный директор UpDoc, заявил, что отсутствие регуляторного руководства может привести рынок к сочетанию различных правил или к запоздалой реакции на ненадлежащее использование.
С редакционной точки зрения, реальное изменение пока заключается не в принятии обязательного правила, а в переходе FDA от общего обсуждения искусственного интеллекта к проверке конкретных регуляторных инструментов: оценки на основе компетентности, досье базовых моделей и постоянного мониторинга. Это даёт компаниям первые ориентиры, но пока не решает вопрос о том, как одобрять изменяющиеся модели или определять ответственность, когда их производительность снижается.
Поставленные вопросы выходят за рамки компаний — производителей медицинских устройств. Kellie Owens, доцентка кафедры медицинской этики в NYU Grossman School of Medicine, призвала усилить пострегистрационный надзор, а Luis Gil Abinader из Generation Patient потребовал усилить контроль за цифровыми компаньонами и чат-ботами — независимо от того, продвигаются ли они для медицинских целей. Коммерческие чат-боты в настоящее время находятся за пределами компетенции FDA, несмотря на опасения по поводу их использования для психологической поддержки, включая случаи, когда некоторые из них ложно заявляют, что предоставляют психотерапию. Центр устройств FDA также включил рекомендации по клиническим доказательствам для цифровых устройств психического здоровья в перечень работ, планируемых на текущий финансовый год.