Salud digital · global
La auscultación con IA pierde precisión: ¿puede la supervisión médica frenar los errores?
Un experimento aleatorizado con 48 médicos muestra que interpretar primero de forma independiente y consultar después las recomendaciones de la IA tampoco impidió que el rendimiento diagnóstico disminuyera a medida que caía la fiabilidad del sistema, lo que pone de relieve la necesidad de una red de seguridad más completa para la supervisión clínica.
Cuando una IA diagnóstica empieza a cometer errores, ¿pueden detectarlos a tiempo los médicos que toman la decisión final? Un estudio publicado el 13 de noviembre en *npj Digital Medicine* puso a prueba esta barrera de seguridad mediante la interpretación de sonidos cardíacos: a medida que las recomendaciones de la IA se volvían menos fiables, también disminuía el rendimiento de las respuestas conjuntas de los médicos y la IA.
El estudio asignó aleatoriamente a 48 médicos a dos grupos para determinar si unos sonidos cardíacos grabados eran normales o anormales en un escenario simulado de auscultación a distancia. Un grupo veía primero las recomendaciones de la IA; el otro debía realizar primero una clasificación independiente, consultar después las recomendaciones y emitir un juicio final. Este segundo procedimiento buscaba que los médicos formaran primero su propia opinión y reducir así la tendencia a seguir directamente al sistema.
El experimento constó de 40 preguntas, divididas en cuatro fases, en las que la proporción de recomendaciones correctas de la IA descendió sucesivamente al 90%, 60%, 50% y 0%. Se trataba de un escenario de fallo diseñado deliberadamente por los investigadores; en la última fase también se introdujo una anomalía de desincronización entre el sonido y las imágenes para comprobar si los médicos podían detectar que el sistema estaba fallando.
Los médicos sí pudieron corregir algunos errores, pero, cuando la fiabilidad era baja, el rendimiento de la colaboración entre médicos e IA seguía siendo inferior al nivel de referencia de la interpretación médica independiente. Exigir que respondieran primero por su cuenta tampoco mejoró el rendimiento global de la colaboración entre médicos e IA. En otras palabras, conservar la decisión final no necesariamente basta para contrarrestar la influencia de las recomendaciones erróneas.
Este resultado tiene límites de aplicabilidad claros: procede de un experimento pequeño y controlado de clasificación de sonidos cardíacos, no midió directamente los resultados del tratamiento de los pacientes y tampoco puede representar a todas las IA diagnósticas. En las consultas reales también intervienen los antecedentes clínicos, otras pruebas y la presión de tiempo, factores que podrían modificar la forma en que los médicos utilizan las recomendaciones.
El estudio traslada así la cuestión a los hospitales y a los desarrolladores: ¿cómo realizar un seguimiento continuo del rendimiento del sistema y quién debe identificar los fallos e iniciar las medidas de respuesta? Los autores sostienen que la supervisión del sistema debe combinarse con una asignación de responsabilidades a nivel organizativo. Estas medidas aún deben validarse, pero el experimento ya advierte de que la seguridad de la IA clínica no puede depender únicamente de la supervisión humana en cada diagnóstico.