Salud digital · global
Cuando la IA de sonidos cardíacos empieza a fallar, hacer que los médicos interpreten primero por su cuenta tampoco logra preservar la precisión
Un experimento aleatorizado con 48 participantes constató que, a medida que disminuía la fiabilidad de una IA simulada, también perdía precisión la interpretación conjunta entre personas e IA. El estudio plantea una pregunta más concreta sobre la supervisión clínica: ¿basta con que alguien revise los resultados para garantizar la seguridad?
Cuando una IA médica se equivoca, ¿puede detectarlo a tiempo la persona encargada de la revisión final? Un experimento de interpretación de sonidos cardíacos publicado el 13 de noviembre en *npj Digital Medicine* constató que exigir a los participantes que emitieran primero su propio juicio y consultaran después la recomendación de la IA tampoco impidió que la precisión final disminuyera a medida que el sistema fallaba.
El estudio distribuyó aleatoriamente a 48 participantes en dos grupos. Cada persona interpretó 40 grabaciones digitales de sonidos cardíacos para distinguir los normales de los anormales, incluidos los que contenían soplos patológicos. Un grupo consultaba primero la recomendación de la IA; el otro respondía de forma independiente antes de decidir si modificaba su respuesta. El artículo denomina médicos al conjunto de participantes, pero la sección de métodos especifica que 18 eran estudiantes del último año de Medicina, una diferencia que debe tenerse en cuenta al interpretar los resultados.
Los sonidos cardíacos procedían del conjunto de datos público CirCor; el equipo investigador manipuló las recomendaciones de la IA para que su porcentaje de aciertos descendiera, en cuatro fases sucesivas, al 90%, 60%, 50% y 0%. Por tanto, se trata de un experimento de comportamiento que simuló deliberadamente un fallo, y no del registro de un fallo real de un producto clínico concreto.
El porcentaje medio de aciertos de la interpretación conjunta entre personas e IA descendió de aproximadamente el 81% al 58%. En las fases de baja fiabilidad, aunque los participantes corrigieron algunos errores de la IA, su rendimiento siguió siendo inferior al nivel de referencia de la interpretación independiente; responder primero por su cuenta tampoco mejoró los resultados globales. Esto indica que formular una respuesta propia no necesariamente basta para resistir la influencia de recomendaciones erróneas posteriores.
Al finalizar el experimento, solo el 12,5% de los participantes mencionó espontáneamente la disminución de la fiabilidad del sistema. El estudio también constató que, en el grupo que interpretaba primero de forma independiente, la confianza en el propio juicio experimentó un descenso significativo antes que la confianza en la IA. Los autores sugieren que los participantes podrían haber dudado primero de sí mismos, pero este mecanismo psicológico aún debe verificarse.
Estos resultados no permiten estimar directamente los riesgos en una consulta real. El experimento carecía de una historia clínica completa y de interacción entre médico y paciente, y los fallos empeoraban rápidamente siguiendo una secuencia fija. Además, en la última fase se introdujeron pistas en las que el sonido y la imagen no coincidían, lo que dificulta separar los efectos de cada factor. Tampoco se midieron los resultados de salud de los pacientes.
La cuestión práctica que plantea el estudio es cómo definir una «supervisión eficaz»: ¿basta con superar a una IA que falla, o es necesario al menos igualar el rendimiento de los médicos cuando interpretan por su cuenta? Los autores sostienen que, además de la revisión por parte del personal clínico, los hospitales y los desarrolladores también deberían participar en la monitorización a nivel del sistema. Qué modalidades de supervisión pueden preservar realmente la calidad del diagnóstico sigue siendo una cuestión que debe verificarse en entornos próximos a la práctica clínica.