A Administração de Alimentos e Medicamentos dos Estados Unidos (FDA) aproxima-se da definição de uma estrutura regulatória para o uso de inteligência artificial generativa em dispositivos médicos, em um momento em que ainda não existe nenhum dispositivo médico que utilize essa tecnologia de maneira sujeita à regulamentação da FDA. As empresas de dispositivos médicos acompanham a direção que a agência escolherá, especialmente no que diz respeito à comprovação de segurança e eficácia e à garantia da continuidade do desempenho dos modelos após seu lançamento no mercado.
Em agosto, a agência publicou um documento de discussão no qual solicitou opiniões das partes interessadas sobre como garantir a segurança dos dispositivos que utilizam inteligência artificial antes e depois de sua entrada no mercado. Grace Davis Jamison, porta-voz do Departamento de Saúde e Serviços Humanos dos Estados Unidos, afirmou que o objetivo é compreender os desafios específicos dos dispositivos apoiados por inteligência artificial generativa e ajudar na preparação de futuras orientações.
Tecnologia presente em testes, mas ainda não em produtos aprovados
O texto indica que a FDA autorizou até agora mais de 1.500 dispositivos que incluem um componente de inteligência artificial, mas não autorizou nenhum dispositivo que utilize inteligência artificial generativa. Ainda assim, a agência concedeu a designação de dispositivo inovador a um número limitado de ferramentas em desenvolvimento, incluindo dois recursos separados da Aidoc e de uma subsidiária da Radiology Partners para analisar imagens de radiografias de tórax e preparar rascunhos de laudos radiológicos, além de uma ferramenta da Modella AI para analisar imagens de patologia e dados clínicos.
A FDA também incluiu dispositivos baseados em inteligência artificial generativa em um programa experimental de saúde digital chamado Technology-Enabled Meaningful Patient Outcomes, ou TEMPO. O programa permite que as empresas coletem dados do mundo real, isentando-as dos requisitos de autorização prévia para comercialização. Entre os participantes está a Limbic, que oferece terapia cognitivo-comportamental por chamadas telefônicas nas quais um agente de voz baseado em inteligência artificial interage com o usuário.
Em contrapartida, alguns recursos atuais não estão sujeitos à análise da FDA. Em 2024, a Dexcom adicionou um recurso generativo aos sensores de glicose vendidos sem receita médica para analisar dados dos usuários e fornecer recomendações personalizadas de bem-estar, e a empresa afirmou que o recurso não exigiu um pedido regulatório antes da comercialização.
Do teste do produto à avaliação baseada em competência
O documento de discussão reconhece que a inteligência artificial generativa não se enquadra facilmente nas estruturas atuais para dispositivos. Os sistemas podem produzir textos ou imagens diferentes em resposta a entradas variáveis, o que dificulta testar todas as possibilidades e medir segurança e eficácia. As alucinações, isto é, a produção de informações incorretas que parecem confiáveis, também geram preocupações adicionais, assim como a possibilidade de queda do desempenho do modelo ao longo do tempo.
A FDA propõe o conceito de “avaliação baseada em competência”, aproveitando a forma como os médicos são avaliados por meio de exames, supervisão e comunicação pública. Em vez de tentar examinar todas as entradas e saídas possíveis, a análise prévia à comercialização poderá depender mais de avaliações comparativas e de testes que meçam o nível de competência exigido.
A agência também propõe a criação de arquivos principais opcionais para modelos fundamentais. Segundo esse conceito, desenvolvedores de modelos ou de plataformas fundamentais poderiam fornecer informações confidenciais à FDA, permitindo que o órgão regulador compreendesse a tecnologia utilizada dentro de um dispositivo médico sem exigir que cada desenvolvedor de dispositivos revelasse todos os segredos comerciais do modelo em que se baseia.
O monitoramento pós-comercialização será parte da equação
O documento enfatiza a importância de monitorar os dispositivos após seu lançamento e a FDA avalia se seria aceitável permitir um grau maior de incerteza antes da comercialização, em troca de depender mais de dados e monitoramento posteriores. Kayla Cristales, advogada da Haynes Boone, considera que a agência poderá depender em grande medida das próprias empresas para fornecer atualizações e acompanhar a evolução dos dispositivos.
Esse ponto aborda um problema que o teste inicial de autorização, por si só, não resolve: o modelo pode mudar, os dados de uso podem se alterar ou podem surgir padrões de falha que não estavam claros durante os testes. No entanto, a fonte ainda não define os critérios de monitoramento, a frequência das atualizações ou a responsabilidade detalhada de desenvolvedores e instituições de saúde.
Por que esta notícia é importante?
As empresas aguardam as orientações com diferentes graus de expectativa. Erez Kaminski, diretor executivo da Ketryx, afirmou que alguns desenvolvedores seguem adiante, enquanto outros preferem esperar, dependendo do tamanho da empresa e de sua disposição para assumir riscos. Especialistas citados no texto consideram que muitas ferramentas atuais se concentram em usos administrativos, na melhoria do fluxo de trabalho ou na aplicação de orientações conhecidas, áreas que talvez não exijam que o produto seja considerado um dispositivo médico sujeito à regulamentação.
Já as empresas que aceitaram previamente ingressar no campo regulado, como a Aidoc, tratam as orientações especializadas como úteis, embora não sejam uma condição decisiva para avançar. Sharif Vakili, diretor executivo da UpDoc, afirmou que a ausência de liderança regulatória pode levar o mercado a uma combinação de regras diferentes ou a reações tardias diante de usos inadequados.
Do ponto de vista editorial, a mudança efetiva ainda não está na publicação de uma regra vinculante, mas na transição da FDA de uma discussão geral sobre inteligência artificial para o teste de instrumentos regulatórios específicos: avaliação baseada em competência, arquivos de modelos fundamentais e monitoramento contínuo. Isso oferece às empresas indicadores iniciais, mas ainda não resolve como aprovar modelos que mudam nem como determinar a responsabilidade quando o desempenho se deteriora.
As questões levantadas vão além das empresas de dispositivos. Kellie Owens, professora assistente de ética médica na NYU Grossman School of Medicine, defendeu uma supervisão pós-comercialização mais forte, enquanto Luis Gil Abinader, da Generation Patient, pediu mais supervisão sobre companheiros digitais e chatbots, sejam eles comercializados para fins de saúde ou não. Os chatbots comerciais continuam fora do alcance da FDA no momento, apesar das preocupações com seu uso para apoio psicológico, incluindo a alegação falsa de alguns de que oferecem psicoterapia. O Centro de Dispositivos da FDA também incluiu as orientações sobre evidências clínicas para dispositivos digitais de saúde mental na lista de trabalhos em preparação para o atual ano fiscal.