La Administración de Alimentos y Medicamentos de Estados Unidos (FDA) se acerca a la creación de un marco regulatorio para el uso de la inteligencia artificial generativa en dispositivos médicos, en un momento en que todavía no existe ningún dispositivo médico que utilice esta tecnología de una manera regulada por la FDA. Las empresas de dispositivos médicos siguen la dirección que elegirá la agencia, especialmente en lo relativo a demostrar la seguridad y la eficacia y garantizar que los modelos mantengan su rendimiento después de salir al mercado.
La agencia publicó en agosto un documento de debate en el que solicitó las opiniones de las partes interesadas sobre cómo garantizar la seguridad de los dispositivos que utilizan inteligencia artificial antes y después de su entrada en el mercado. Grace Davis Jamison, portavoz del Departamento de Salud y Servicios Humanos de Estados Unidos, afirmó que el objetivo es comprender los desafíos específicos de los dispositivos basados en inteligencia artificial generativa y ayudar a preparar futuras directrices.
Una tecnología presente en los ensayos, pero todavía no en los productos aprobados
El artículo señala que la FDA ha autorizado hasta ahora más de 1.500 dispositivos que incluyen algún componente de inteligencia artificial, pero no ha autorizado ningún dispositivo que utilice inteligencia artificial generativa. No obstante, la agencia ha concedido la designación de dispositivo innovador a un número limitado de herramientas en desarrollo, entre ellas dos funciones independientes de Aidoc y una filial de Radiology Partners para analizar radiografías de tórax y preparar borradores de informes radiológicos, además de una herramienta de Modella AI para analizar imágenes de patología y datos clínicos.
La FDA también incluyó dispositivos basados en inteligencia artificial generativa en un programa piloto de salud digital llamado Technology-Enabled Meaningful Patient Outcomes, o TEMPO. El programa permite a las empresas recopilar datos del mundo real eximiéndolas de los requisitos de autorización previa a la comercialización. Entre los participantes se encuentra Limbic, que ofrece terapia cognitivo-conductual mediante llamadas telefónicas en las que un agente de voz impulsado por inteligencia artificial interactúa con el usuario.
En cambio, algunas funciones actuales no están sujetas a la revisión de la FDA. En 2024, Dexcom añadió una función generativa a sus sensores de glucosa disponibles sin receta para analizar los datos de los usuarios y ofrecer recomendaciones personalizadas de bienestar, y la empresa afirmó que la función no requería una solicitud regulatoria previa a la comercialización.
De probar el producto a una evaluación basada en competencias
El documento de debate reconoce que la inteligencia artificial generativa no encaja fácilmente en los marcos actuales aplicables a los dispositivos. Los sistemas pueden producir textos o imágenes diferentes en respuesta a entradas variables, lo que dificulta probar todas las posibilidades y medir la seguridad y la eficacia. Las alucinaciones, es decir, la producción de información incorrecta que parece fiable, también generan preocupaciones adicionales, al igual que la posibilidad de que el rendimiento del modelo disminuya con el tiempo.
La FDA propone el concepto de «evaluación basada en competencias», inspirándose en la manera en que se evalúa a los médicos mediante exámenes, supervisión y comunicación pública. En lugar de intentar examinar cada posible entrada y salida, la revisión previa a la comercialización podría depender en mayor medida de la evaluación comparativa y de pruebas que midan el nivel de competencia requerido.
La agencia también plantea la creación de expedientes maestros opcionales para los modelos fundacionales. Según esta propuesta, los desarrolladores de modelos o de plataformas fundamentales podrían presentar información confidencial a la FDA, lo que permitiría al organismo regulador comprender la tecnología utilizada dentro de un dispositivo médico sin exigir a cada desarrollador de dispositivos que revele todos los secretos comerciales del modelo en el que se basa.
La vigilancia posterior a la comercialización será parte de la ecuación
El documento subraya la importancia de vigilar los dispositivos después de su lanzamiento y la FDA estudia si sería aceptable permitir un mayor grado de incertidumbre antes de la comercialización a cambio de depender más de los datos y de la vigilancia posterior. Kayla Cristales, abogada de Haynes Boone, considera que la agencia podría depender en gran medida de las propias empresas para presentar actualizaciones y hacer un seguimiento de la evolución de los dispositivos.
Este punto aborda un problema que la prueba inicial de autorización por sí sola no resuelve: el modelo puede cambiar, los datos de uso pueden modificarse o pueden aparecer patrones de fallo que no eran evidentes durante los ensayos. Sin embargo, la fuente todavía no define los criterios de vigilancia, la frecuencia de las actualizaciones ni la responsabilidad detallada de los desarrolladores y las instituciones sanitarias.
¿Por qué es importante esta noticia?
Las empresas esperan las directrices con distintos grados de interés. Erez Kaminski, director ejecutivo de Ketryx, afirmó que algunos desarrolladores siguen adelante, mientras que otros prefieren esperar, según el tamaño de la empresa y su disposición a asumir riesgos. Los expertos citados en el artículo consideran que muchas de las herramientas actuales se centran en usos administrativos, la mejora de los flujos de trabajo o la aplicación de directrices conocidas, ámbitos que quizá no requieran considerar el producto como un dispositivo médico sujeto a regulación.
En cuanto a las empresas que ya han aceptado entrar en el ámbito regulado, como Aidoc, consideran útiles las directrices específicas, aunque no sean una condición decisiva para avanzar. Sharif Vakili, director ejecutivo de UpDoc, afirmó que la falta de liderazgo regulatorio podría llevar al mercado a una mezcla de normas diferentes o a reacciones tardías frente a los usos indebidos.
Desde una perspectiva editorial, el cambio real no reside todavía en la publicación de una norma vinculante, sino en el paso de la FDA de un debate general sobre la inteligencia artificial a la evaluación de herramientas regulatorias concretas: la evaluación basada en competencias, los expedientes de modelos fundacionales y la vigilancia continua. Esto proporciona a las empresas indicios iniciales, pero todavía no resuelve cómo autorizar modelos cambiantes ni cómo determinar la responsabilidad cuando el rendimiento disminuye.
Las preguntas planteadas van más allá de las empresas de dispositivos. Kellie Owens, profesora adjunta de ética médica en la NYU Grossman School of Medicine, pidió una vigilancia posterior a la comercialización más sólida, mientras que Luis Gil Abinader, de Generation Patient, reclamó una mayor supervisión de los acompañantes digitales y los chatbots, tanto si se comercializan con fines sanitarios como si no. Por el momento, los chatbots comerciales quedan fuera del ámbito de la FDA, pese a las preocupaciones sobre su uso para apoyo psicológico, incluida la afirmación falsa de algunos de que ofrecen terapia psicológica. El Centro de Dispositivos de la FDA también incluyó las directrices sobre pruebas clínicas para dispositivos digitales de salud mental en la lista de trabajos en preparación para el año fiscal en curso.