¿Hasta qué punto debe regularse la IA médica? «Nature Health» propone evaluar cuánto poder de decisión tiene

El riesgo de la IA médica no depende únicamente de si el modelo puede dar una respuesta errónea, sino también de si las personas actuarán conforme a esa respuesta. A medida que los chatbots, los dispositivos portátiles y las aplicaciones de salud se incorporan gradualmente a la vida cotidiana, los algoritmos con influencia médica hace tiempo que dejaron de estar confinados a los hospitales. Si una misma recomendación puede cambiar la decisión de un paciente de buscar atención médica, tomar medicamentos o someterse a pruebas, sus consecuencias pueden superar con creces las de una herramienta informativa común.

Yu Gu y Eric J. Topol proponen en un artículo de opinión publicado en «Nature Health» que la IA aplicada a la salud se evalúe y regule según el grado de influencia que ejerce sobre las decisiones clínicas y de salud de cada persona. Este enfoque desplaza la atención desde el nombre del producto, el lugar de uso o un único indicador técnico hacia una pregunta más directa: ¿hasta qué punto puede el sistema moldear la trayectoria de salud de una persona?

Siguiendo esta lógica, una herramienta que solo ayuda a organizar historias clínicas y cuyos resultados deben ser revisados por profesionales no debería estar sujeta exactamente a los mismos requisitos que un sistema que ofrece directamente recomendaciones de diagnóstico, triaje o tratamiento. Aunque una aplicación de evaluación de síntomas o un asistente de salud utilizado directamente por pacientes no se implemente en una institución médica tradicional, si puede llevar al usuario a retrasar la búsqueda de atención médica, modificar su medicación o adoptar otras medidas relacionadas con su salud, no puede considerarse de bajo riesgo únicamente por estar etiquetado como «para fines informativos».

La «autoridad de decisión» también incorpora al ámbito regulatorio factores que van más allá de la precisión del modelo. Si un mismo modelo solo sirve como referencia en un contexto, pero en otro puede ejecutar acciones automáticamente o convertirse en la única fuente de recomendaciones disponible para el usuario, el riesgo real no es el mismo. La posibilidad de que una persona invalide el resultado, la reversibilidad de los errores, la manera en que se presentan las recomendaciones y la capacidad del sistema para abstenerse de responder ante información incierta pueden modificar la influencia que la IA posee realmente.

Para aplicar este enfoque, los reguladores aún deben convertir el concepto abstracto de «grado de influencia» en criterios verificables, entre ellos quién tiene la última palabra, si el resultado de la IA desencadena acciones posteriores, si los usuarios comprenden sus limitaciones y si las actualizaciones del producto modifican los límites de autoridad establecidos inicialmente. Las herramientas utilizadas fuera de los hospitales son especialmente problemáticas porque sus contextos de uso están dispersos, y supervisar los errores y hacer un seguimiento de los daños suele ser más difícil que dentro de un hospital.

El artículo es un comentario sobre políticas, no un estudio clínico que valide un sistema nuevo. El resumen público no presenta umbrales de clasificación, conjuntos de datos ni cifras de resultados, y tampoco permite demostrar que clasificar los sistemas según su autoridad de decisión pueda reducir directamente los daños. Lo que ofrece es un principio regulatorio: la IA médica no debería etiquetarse únicamente según su forma técnica, sino que deberían asignársele requisitos proporcionales de evidencia, supervisión humana y seguimiento continuo en función del margen de acción que obtenga en el mundo real.