La Administración de Alimentos y Medicamentos de EE. UU. (FDA) se encamina hacia el establecimiento de un nuevo marco regulatorio para la inteligencia artificial generativa utilizada en dispositivos médicos, tras recibir más de 500 comentarios de actores del sector de la salud, incluidas empresas de dispositivos médicos, grupos de médicos y organizaciones de pacientes. Este paso se produce en respuesta a un documento de debate publicado por la agencia el pasado agosto, en el que proponía evaluar los dispositivos basados en inteligencia artificial generativa mediante un marco inspirado en la acreditación de médicos, con un enfoque en la monitorización continua posterior a la comercialización en el mercado.
Divergencia de opiniones sobre la regulación
Los comentarios revelaron una clara división de opiniones sobre cómo abordar esta tecnología:
- Sector industrial: Grupos de presión como AdvaMed exigieron a la agencia que se base en los marcos regulatorios existentes en lugar de crear un nuevo marco específico para la inteligencia artificial generativa, afirmando que la inclusión de esta tecnología no debe imponer automáticamente evaluaciones de competencia adicionales.
- Comunidad médica: Los cardiólogos de la Sociedad para Angiografía e Intervenciones Cardiovasculares (SCAI) enfatizaron la necesidad de distinguir con precisión entre las herramientas de apoyo a la decisión y las herramientas de toma de decisiones reales, advirtiendo sobre la difusa línea que crea la inteligencia artificial generativa.
- Pacientes y consumidores: La organización Generation Patient exigió reforzar la monitorización posterior a la comercialización del producto, advirtiendo que la dependencia excesiva de la monitorización posterior en lugar de pruebas rigurosas previas a la comercialización puede trasladar la carga del riesgo a los pacientes.
Desafíos técnicos y de seguridad
Laboratorios de investigación, como el Brainstorm Lab de la Universidad de Stanford, plantearon preocupaciones técnicas fundamentales, señalando que los modelos de inteligencia artificial generativa pueden mostrar un comportamiento seguro al principio, pero se degradan a medida que se alarga la conversación. También sugirieron la necesidad de un sistema de evaluación separado para fallos con consecuencias graves, como pasar por alto riesgos de suicidio o diagnósticos erróneos de casos críticos, señalando que el error de un modelo se repite en todos los pacientes y ubicaciones, a diferencia del error de un médico humano, que sigue siendo local.
¿Qué significa esto para los usuarios?
La importancia de estos debates radica en determinar la responsabilidad legal y técnica sobre la seguridad de los dispositivos. Mientras que empresas como Oura buscan excepciones para los dispositivos que proporcionan información general sobre el bienestar (wellness), los defensores de los pacientes exigen que no se exima de una supervisión estricta a las herramientas de chat que simulan relaciones emocionales, dado su uso creciente en la prestación de consejos relacionados con la salud mental. La cuestión sigue abierta sobre cómo equilibrar la agencia entre fomentar la innovación médica y garantizar la seguridad de los pacientes bajo una tecnología cuyos resultados cambian constantemente.