A Associação Médica Americana (AMA) publicou uma nova estrutura para a governança de agentes de inteligência artificial na área da saúde, em uma tentativa de definir as condições de uso de ferramentas capazes de executar tarefas clínicas de várias etapas com certo grau de autonomia. A estrutura enfatiza que essas soluções devem basear-se em evidências claras e manter um desempenho de alta qualidade antes de serem autorizadas a executar funções que afetem o atendimento aos pacientes.
Os agentes de inteligência artificial diferem das ferramentas tradicionais de inteligência artificial generativa por sua capacidade de executar uma série de ações sem supervisão humana contínua. Os possíveis usos incluem documentação clínica ambiente, auxílio no diagnóstico e monitoramento de pacientes. No entanto, um erro ou viés em uma decisão autônoma pode causar danos ao paciente antes que o médico intervenha.
Quatro perguntas antes de delegar a tarefa
A estrutura da AMA propõe que o processo de avaliação de qualquer agente clínico se baseie em quatro perguntas principais:
- Qual função clínica o sistema de inteligência artificial executa?
- Quais evidências existem de sua capacidade de executar essa função e o que acontece se ele falhar?
- Quais ações devem ser autorizadas ao sistema e sob quais condições?
- Quem assume a responsabilidade pelos riscos e resultados?
A associação resume sua posição afirmando que as evidências, as autorizações, a supervisão e a responsabilização devem permanecer alinhadas ao objetivo de melhorar o atendimento aos pacientes, reafirmando o papel central dos médicos no desenvolvimento e na implantação dessas tecnologias.
Por que essa estrutura é importante?
A iniciativa ocorre em um momento de expansão dos testes de agentes de inteligência artificial dentro de instituições de saúde. De acordo com uma pesquisa que ouviu 250 líderes do setor de saúde nos Estados Unidos, 28% das organizações disseram que já haviam implantado ferramentas desse tipo, enquanto 44% informaram estar realizando testes ou projetos de prova de conceito. A maioria dos participantes espera um impacto transformador no fluxo de trabalho clínico.
Por outro lado, 72% dos participantes disseram que as ferramentas de agentes de inteligência artificial às vezes são implementadas sem a aprovação do departamento de tecnologia da informação. Isso indica uma lacuna na supervisão institucional; mais da metade dos participantes considerou entre as principais preocupações a possibilidade de violação de requisitos de conformidade ou regulamentação e o acesso não autorizado a informações de saúde protegidas.
Orientações na ausência de uma regulamentação federal abrangente
O setor de saúde atua em um contexto de regulamentação federal incompleta da inteligência artificial, o que levou grupos profissionais e industriais a estabelecer princípios e controles provisórios. Nos Estados Unidos, as leis variam entre estados que reforçam as restrições e outros que testam usos de cuidados de saúde apoiados por inteligência artificial. Segundo a empresa jurídica e de consultoria Manatt, 47 estados apresentaram mais de 250 projetos de lei que afetam a inteligência artificial na área da saúde durante o ano de 2025.
A estrutura, por si só, não determina como cada agente deve ser aprovado nem elimina os riscos operacionais, mas oferece uma base prática para levantar questões de responsabilidade, autorizações e evidências antes da introdução de ferramentas autônomas nos fluxos de atendimento aos pacientes. Ainda estão em aberto as questões de como traduzir esses princípios em requisitos mensuráveis e de como distribuir a responsabilidade entre médicos, instituições e desenvolvedores de sistemas.