Tecnología médica y regulación · us
La FDA traza un mapa de riesgos para los dispositivos médicos con IA generativa y propone incorporar la revisión clínica a la regulación
Desde pruebas de referencia previas a la comercialización hasta la monitorización continua posterior, el regulador estadounidense está estableciendo reglas escalonadas para sistemas médicos capaces de generar contenido e incluso ejecutar tareas de manera autónoma; la consulta pública continuará hasta el 19 de octubre.
Tras la entrada de la inteligencia artificial generativa en el ámbito sanitario, la cuestión ya no se limita a si sus respuestas son correctas. Cuando un sistema puede redactar resúmenes diagnósticos, proponer medidas de intervención e incluso conectarse con otras herramientas para ejecutar tareas, un único resultado erróneo aparentemente razonable puede amplificarse a lo largo del flujo clínico. Por ello, la Administración de Alimentos y Medicamentos de Estados Unidos (FDA) ha iniciado una consulta pública con el objetivo de convertir los riesgos de estos dispositivos médicos en requisitos regulatorios susceptibles de revisión y seguimiento.
La FDA propone un marco de riesgo de dos ejes que clasifica los productos según su impacto clínico y los riesgos derivados de sus funciones generativas. El método concreto de evaluación aún deberá completarse con las opiniones recabadas durante la consulta, pero la orientación central consiste en que los requisitos de evidencia sean proporcionales al daño potencial, en lugar de incluir en una misma categoría a todos los productos que utilicen modelos de gran tamaño.
En la etapa previa a la comercialización, los desarrolladores podrían tener que utilizar pruebas de referencia predefinidas para evaluar el desempeño del sistema en situaciones representativas. Este tipo de validación no puede limitarse a examinar la precisión media, sino que también debe abordar la variabilidad propia de los modelos generativos: una misma entrada puede producir respuestas diferentes, y los casos infrecuentes y los distintos grupos poblacionales también pueden revelar lagunas no cubiertas por los datos de entrenamiento. El anuncio de la FDA no aporta datos de ensayos de productos específicos ni umbrales uniformes, por lo que aún quedan por responder cuestiones como el diseño de las pruebas de referencia y qué poblaciones clínicas deben abarcar los datos.
Para los usos de mayor riesgo, la FDA también contempla la «confirmación clínica» como una posible medida de protección. Si el resultado de la IA influirá en el diagnóstico o el tratamiento, exigir que un profesional sanitario cualificado lo revise antes de actuar puede reducir la posibilidad de que los errores lleguen directamente al paciente. Sin embargo, la eficacia de esta barrera seguirá dependiendo del diseño de la interfaz, de la capacidad del usuario para identificar errores y de si la presión de los flujos de trabajo hace que la revisión se convierta en una mera formalidad.
La supervisión regulatoria se extiende asimismo al período posterior a la comercialización del producto. La FDA plantea una monitorización proporcional al riesgo para hacer un seguimiento de las actualizaciones del modelo, los cambios en los datos de entrada y la deriva del rendimiento en entornos clínicos reales. Esto resulta especialmente importante para los sistemas generativos: el modelo subyacente puede ser suministrado por un tercero y actualizarse continuamente, de modo que el comportamiento del producto podría cambiar de forma inadvertida sin modificaciones visibles evidentes.
La consulta también aborda específicamente los modelos fundacionales y los sistemas de agentes. Los primeros pueden ser compartidos por diversos productos médicos, pero podrían volver opacos los datos de entrenamiento, el control de versiones y la atribución de responsabilidades; los segundos no solo generan texto o imágenes, sino que también pueden planificar pasos, invocar herramientas y ejecutar tareas, haciendo que un error pase de ser una única respuesta a convertirse en una cadena de acciones. Determinar si la responsabilidad regulatoria debe recaer en el proveedor del modelo, el desarrollador del dispositivo médico o la institución que lo implemente será clave para el diseño del sistema.
La consulta pública finalizará el 19 de octubre. Lo anunciado hasta ahora es una orientación regulatoria, no unos criterios de revisión definitivos; ante la falta de fuentes de datos independientes sobre el mismo asunto y de documentación técnica completa, todavía no es posible determinar cuáles serán los umbrales finales de evidencia ni qué productos estarán sujetos a los requisitos más estrictos. No obstante, la FDA ha comunicado claramente un principio: los dispositivos médicos con IA generativa no pueden limitarse a superar una única prueba antes de su comercialización; su seguridad debe demostrarse de forma continua durante todo el ciclo de vida del producto.