Um grupo das principais instituições de saúde americanas, incluindo a American Hospital Association (AHA) e a American Medical Association (AMA), exigiu que a Food and Drug Administration (FDA) defina claramente a responsabilidade legal e técnica pelos dispositivos médicos que integram tecnologias de IA generativa. Estas exigências surgem no âmbito das respostas a uma proposta regulamentar da agência que visa estabelecer um quadro de trabalho para lidar com estas ferramentas emergentes.
Desafio da responsabilidade e transparência
As instituições médicas argumentam que os médicos e hospitais não possuem a capacidade técnica ou os recursos necessários para monitorizar continuamente o desempenho de modelos complexos de IA. A American Hospital Association enfatizou que os desenvolvedores são a parte mais apta a avaliar e manter estas ferramentas, observando que a falta de transparência sobre como estes modelos funcionam torna difícil para os prestadores de cuidados detetarem falhas de software ou enviesamentos nos resultados.
Preocupações sobre a supervisão humana
A American Medical Association (AMA) levantou um ponto fundamental relacionado com o conceito de "humano no ciclo" (human-in-the-loop), sublinhando que a presença de um médico a supervisionar os resultados da IA não garante necessariamente a redução dos riscos. Explicou que a dependência excessiva destas ferramentas pode levar a erros clínicos, o que exige a avaliação do desempenho do elemento humano também dentro do quadro de avaliação de riscos, e não apenas a dependência da natureza do funcionamento do dispositivo.
O que muda na prática?
- Transferência do peso da responsabilidade: As instituições médicas procuram proteger-se da responsabilidade legal por erros técnicos sobre os quais não têm controlo, considerando que a responsabilidade deve recair sobre os fabricantes.
- Exigência de "rótulos nutricionais": Alguns grupos, como a WEDI, propuseram a necessidade de obrigar as empresas a colocar etiquetas explicativas (semelhantes a rótulos de valor nutricional) que detalhem as funções da ferramenta e os seus riscos potenciais para pacientes e médicos.
- Desenvolvimento de um quadro de riscos: As instituições médicas consideram que a avaliação de riscos baseada apenas na "atividade do dispositivo" é insuficiente, devendo ser incluídas outras variáveis, como a probabilidade de erro e os resultados negativos decorrentes da utilização.
Estes debates ocorrem num momento em que a FDA se prepara para emitir um projeto de orientação oficial sobre a regulação de dispositivos médicos baseados em IA generativa nos próximos meses, o que poderá pôr fim à controvérsia existente sobre a responsabilidade legal e técnica neste setor vital.