La Asociación Médica Estadounidense (AMA) publicó un nuevo marco para la gobernanza de los agentes de inteligencia artificial en la atención sanitaria, en un intento por definir las condiciones de uso de herramientas capaces de ejecutar tareas clínicas de varios pasos con cierto grado de autonomía. El marco se centra en la necesidad de que estas soluciones se basen en pruebas claras y mantengan un desempeño de alta calidad antes de permitirles realizar funciones que afecten la atención de los pacientes.
Los agentes de inteligencia artificial se diferencian de las herramientas tradicionales de inteligencia artificial generativa por su capacidad para ejecutar una serie de acciones sin supervisión humana continua. Entre sus posibles usos se encuentran la documentación clínica ambiental, la asistencia en el diagnóstico y la monitorización de pacientes. Sin embargo, un error o sesgo en una decisión autónoma podría causar daños al paciente antes de que intervenga el médico.
Cuatro preguntas antes de delegar la tarea
El marco de la AMA propone que el proceso de evaluación de cualquier agente clínico se base en cuatro preguntas principales:
- ¿Qué función clínica ejecuta el sistema de inteligencia artificial?
- ¿Qué pruebas existen de su capacidad para desempeñar esa función y qué ocurre si falla?
- ¿Qué acciones debería permitirse que ejecute el sistema y bajo qué condiciones?
- ¿Quién asume la responsabilidad por los riesgos y los resultados?
La asociación resume su postura en la necesidad de mantener las pruebas, las autorizaciones, la supervisión y la rendición de cuentas alineadas con el objetivo de mejorar la atención de los pacientes, al tiempo que reafirma el papel central de los médicos en el desarrollo y la implementación de estas tecnologías.
¿Por qué importa este marco?
La iniciativa llega en un momento en que se amplían las pruebas de agentes de inteligencia artificial dentro de las instituciones de atención sanitaria. Según una encuesta realizada a 250 líderes del sector de la atención sanitaria en Estados Unidos, el 28% de las instituciones afirmó que ya había implementado herramientas de este tipo, mientras que el 44% indicó que estaba llevando a cabo pruebas o proyectos de prueba de concepto. La mayoría de los participantes espera un impacto transformador en los flujos de trabajo clínicos.
En cambio, el 72% de los participantes afirmó que las herramientas de agentes de inteligencia artificial se implementan a veces sin la aprobación del departamento de tecnología de la información. Esto apunta a una brecha en la supervisión institucional, ya que más de la mitad de los participantes consideró que la posibilidad de incumplir requisitos de cumplimiento normativo o regulación y el acceso no autorizado a información sanitaria protegida se encontraban entre las principales preocupaciones.
Orientaciones ante la ausencia de una regulación federal integral
El sector de la atención sanitaria opera en un contexto de regulación federal incompleta de la inteligencia artificial, lo que ha llevado a grupos profesionales e industriales a establecer principios y controles provisionales. En Estados Unidos, las leyes varían entre estados que endurecen las restricciones y otros que ponen a prueba usos de la atención sanitaria respaldados por inteligencia artificial. Según la firma jurídica y de consultoría Manatt, 47 estados presentaron más de 250 proyectos de ley que afectan a la inteligencia artificial en la atención sanitaria durante 2025.
El marco, por sí solo, no determina cómo debe aprobarse cada agente ni elimina los riesgos operativos, pero ofrece una base práctica para plantear preguntas sobre responsabilidad, autorizaciones y pruebas antes de introducir herramientas autónomas en los procesos de atención de los pacientes. Sigue pendiente cómo traducir estos principios en requisitos medibles y cómo distribuir la responsabilidad entre los médicos, las instituciones y los desarrolladores de sistemas.