A Associação Médica Americana (AMA) afirmou em um relatório orientador recente que a responsabilidade pelos erros resultantes de ferramentas de inteligência artificial no setor médico não recai apenas sobre os médicos, mas deve ser distribuída de forma justa entre os desenvolvedores dessas tecnologias e as instituições de saúde que as adotam.
Distribuição de responsabilidades no ambiente de IA
De acordo com a nova estrutura, cada parte possui um papel específico na mitigação de riscos:
- Desenvolvedores: assumem a responsabilidade principal pelo design de ferramentas seguras e precisas, e pelo fornecimento de informações transparentes sobre o uso pretendido, desempenho e limitações técnicas, em vez de apenas se limitarem a isenções de responsabilidade jurídica.
- Instituições de saúde (operadores): hospitais e sistemas de saúde têm a responsabilidade de selecionar as ferramentas adequadas, avaliá-las antes da implementação, fornecer o treinamento necessário aos médicos e monitorar o desempenho dos modelos para garantir que sua precisão não diminua com o tempo.
- Médicos: permanecem responsáveis pelo exercício de seu julgamento clínico, incluindo a verificação dos resultados da IA e a rejeição de recomendações quando necessário, mas não devem ser uma "rede de segurança" para erros técnicos sobre os quais não têm controle ou capacidade de identificar.
Por que esta notícia é importante?
Este passo ocorre em um momento de crescente adoção da IA para apoiar a tomada de decisões clínicas e reduzir a carga administrativa. No entanto, uma pesquisa realizada pela Associação Médica Americana em 2026 mostrou que um terço dos médicos considera a clareza das estruturas de responsabilidade jurídica o principal motor para a adoção dessas tecnologias. A pesquisa também revelou uma grande lacuna de treinamento, com um quarto dos médicos não tendo recebido nenhum treinamento no uso de ferramentas de IA, enquanto 92% deles expressaram o desejo de obter treinamento adicional.
O que muda na prática?
A estrutura visa estabelecer padrões claros que permitam às pessoas afetadas por erros de IA caminhos legais para obter compensações da parte efetivamente responsável. A Associação argumenta que essa definição de responsabilidades não apenas protege os médicos de processos judiciais injustos, mas também promove a segurança do paciente ao obrigar cada parte a implementar as melhores práticas em seu âmbito de competência. Além disso, em seus comentários direcionados à Food and Drug Administration (FDA) dos EUA, a Associação solicitou a necessidade de responsabilizar os desenvolvedores pelo monitoramento de dispositivos médicos baseados em IA generativa, para evitar a sobrecarga dos profissionais de saúde, especialmente em instituições pequenas e rurais.