Un grupo de las principales instituciones de salud estadounidenses, incluidas la Asociación Americana de Hospitales (AHA) y la Asociación Médica Americana (AMA), ha exigido a la Administración de Alimentos y Medicamentos (FDA) que defina claramente la responsabilidad legal y técnica de los dispositivos médicos que integran tecnologías de inteligencia artificial generativa. Estas demandas surgen como respuesta a una propuesta regulatoria de la agencia destinada a establecer un marco de trabajo para abordar estas herramientas emergentes.
El desafío de la responsabilidad y la transparencia
Las instituciones médicas argumentan que los médicos y los hospitales no poseen la capacidad técnica ni los recursos necesarios para monitorear continuamente el rendimiento de modelos complejos de inteligencia artificial. La Asociación Americana de Hospitales afirmó que los desarrolladores son la parte más capacitada para evaluar y mantener estas herramientas, señalando que la falta de transparencia sobre cómo funcionan estos modelos dificulta que los proveedores de atención médica detecten errores de software o sesgos en los resultados.
Preocupaciones sobre la supervisión humana
La Asociación Médica Americana (AMA) planteó un punto fundamental relacionado con el concepto de "humano en el ciclo" (human-in-the-loop), subrayando que la presencia de un médico supervisando los resultados de la inteligencia artificial no garantiza necesariamente la reducción de los riesgos. Explicó que la dependencia excesiva de estas herramientas podría derivar en errores clínicos, lo que requiere evaluar también el desempeño del factor humano dentro del marco de evaluación de riesgos, y no depender únicamente de la naturaleza del funcionamiento del dispositivo.
¿Qué cambia en la práctica?
- Traslado de la carga de responsabilidad: Las instituciones médicas buscan protegerse de la responsabilidad legal por errores técnicos sobre los cuales no tienen control, considerando que la responsabilidad debe recaer en las empresas fabricantes.
- Demandas de "etiquetas nutricionales": Algunos grupos, como WEDI, han sugerido la necesidad de obligar a las empresas a incluir etiquetas explicativas (similares a las etiquetas de información nutricional) que detallen las funciones de la herramienta y sus riesgos potenciales para los pacientes y los médicos.
- Desarrollo de un marco de riesgos: Las instituciones médicas consideran que evaluar los riesgos basándose únicamente en la "actividad del dispositivo" es insuficiente, y que deben incluirse otras variables como la probabilidad de error y los resultados negativos derivados del uso.
Estos debates tienen lugar en un momento en que la Administración de Alimentos y Medicamentos de EE. UU. se prepara para publicar un borrador de orientación oficial sobre la regulación de los dispositivos médicos basados en inteligencia artificial generativa en los próximos meses, lo que podría poner fin a la controversia existente sobre la responsabilidad legal y técnica en este sector vital.