← Volver al inicio

¿Sabe la IA médica cuándo hacer menos pruebas? Seis modelos discrepan en las zonas grises de la clínica

Un estudio que abarcó 225 situaciones clínicas encontró que los modelos de lenguaje suelen identificar las intervenciones médicas innecesarias, pero sus respuestas divergen claramente en casos controvertidos, como los electrocardiogramas y los nódulos tiroideos. Tras las bajas tasas de error, quedan preguntas que deben responderse antes de que estas herramientas lleguen a la consulta.

By SURL BioNews

Una prueba más no siempre aporta más tranquilidad. Un hallazgo anormal incidental puede dar lugar a más seguimiento, biopsias y ansiedad; pero una contención excesiva también puede hacer que se omitan diagnósticos o tratamientos necesarios. A medida que pacientes y médicos empiezan a pedir consejo a la inteligencia artificial, la capacidad de los modelos para reconocer ese límite se convierte en una cuestión de seguridad médica. Un nuevo estudio publicado en Annals of Internal Medicine muestra que seis modelos de lenguaje pueden evitar intervenciones innecesarias en la mayoría de las pruebas, aunque las dificultades se concentran en ámbitos donde la propia medicina también presenta discrepancias.

El estudio fue realizado por un equipo de instituciones entre las que figuran el sistema de servicios de salud Clalit de Israel y la Universidad Ben-Gurión del Néguev. Según la información publicada por el American College of Physicians, los investigadores utilizaron 15 recomendaciones de la iniciativa «Choosing Wisely» para reducir la atención de bajo valor y elaboraron 225 situaciones clínicas con las que evaluaron seis grandes modelos de lenguaje comerciales. La clave del diseño fue la comparación por pares: presentar casos similares con y sin motivos para intervenir, para comprobar si los modelos podían modificar su criterio al cambiar las condiciones clínicas.

En conjunto, en las situaciones que el estudio definió como casos que no requerían intervención, el 5.4% de las respuestas de los modelos siguió recomendando pruebas o tratamientos; en las situaciones de control que sí requerían intervención, la proporción de recomendaciones erróneas de no intervenir fue del 0.6%. De las 15 recomendaciones, 8 no generaron ninguna recomendación de intervención innecesaria en las pruebas. Estas cifras reflejan el grado de concordancia entre las respuestas de los modelos y los criterios de evaluación, y no pueden convertirse directamente en tasas de diagnósticos omitidos o riesgos de daño para los pacientes en consultas reales.

Los promedios también ocultan debilidades específicas. La información publicada por la universidad señala que, en las situaciones sobre electrocardiogramas en adultos de bajo riesgo, el 28.3% de las respuestas se clasificó como recomendaciones de pruebas innecesarias; en los casos de nódulos tiroideos pequeños descubiertos de forma incidental, la cifra alcanzó el 42.8%. Sin embargo, los errores en los casos de electrocardiogramas aparecieron principalmente en situaciones que mencionaban palpitaciones, un síntoma que podría justificar clínicamente la prueba; en cuanto a la necesidad de realizar una ecografía de los nódulos tiroideos, existen diferencias entre las recomendaciones de distintas sociedades médicas. Esto también recuerda a los lectores que algunos de los llamados errores deben interpretarse teniendo en cuenta los criterios utilizados.

Las diferencias entre modelos fueron igualmente llamativas. En la noticia de la universidad, el equipo investigador indicó que, ante los mismos casos clínicos en zonas grises, un modelo recomendó pruebas innecesarias en menos del 10% de los casos, mientras que otro lo hizo en el 80%. Por tanto, un texto fluido y categórico no necesariamente refleja un criterio médico estable y coherente; la elección del modelo también puede cambiar el consejo que recibe el usuario.

Este estudio aporta pistas para identificar las debilidades de los modelos, pero la evidencia sigue procediendo de situaciones clínicas diseñadas de antemano, y no del seguimiento de los resultados de pacientes tras incorporar la IA a los procesos asistenciales. La siguiente pregunta planteada por los investigadores se acerca aún más a la consulta: cuando un paciente ansioso insiste en pedir «una prueba más», ¿puede el modelo mantener su contención inicial, que era razonable? Antes de utilizar estas herramientas en las decisiones clínicas, además de su desempeño al responder preguntas, es necesario validar cómo reaccionan ante preguntas insistentes, información incompleta y discrepancias entre opiniones profesionales.

References

  1. Medical Xpress
  2. American College of Physicians (via Newswise)
  3. Ben-Gurion University of the Negev (via Mirage News)