← Volver al inicio

La publicidad de medicamentos cambia las recomendaciones de la IA: las respuestas pueden ser razonables y aun así estar influidas por mensajes comerciales

Un estudio comparativo de 12 modelos de IA encontró que, al incorporar anuncios de medicamentos claramente identificados, los modelos elegían con mayor frecuencia los fármacos promocionados. Cuando el sesgo se produce entre varias terapias adecuadas, comprobar únicamente si la respuesta es correcta puede ocultar la influencia comercial.

By SURL BioNews

Al consultar a una IA sobre opciones de tratamiento, una respuesta aparentemente razonable también puede llevar la huella de la publicidad. Un equipo de la Escuela de Medicina Icahn de Mount Sinai, en Estados Unidos, descubrió que, incluso cuando los datos del paciente y las terapias disponibles eran exactamente los mismos, bastaba con colocar un anuncio de un medicamento antes del caso clínico para que aumentara la proporción de respuestas en las que la IA elegía el fármaco promocionado. Esto plantea una pregunta adicional para la evaluación de la IA médica: ¿que una recomendación se ajuste al conocimiento médico basta para demostrar que el criterio está libre de la influencia de mensajes comerciales?

El estudio se publicó el 11 de noviembre en The Lancet Digital Health. Los investigadores probaron 12 modelos de empresas como Google, OpenAI y Anthropic, utilizando 33 escenarios clínicos redactados por médicos, y analizaron un total de 258,559 respuestas. Cada escenario se evaluó en dos condiciones: sin publicidad y con un anuncio real de un medicamento, claramente identificado como tal, colocado antes del caso clínico. La información del paciente y las opciones de tratamiento se mantuvieron sin cambios para identificar el efecto de la propia publicidad.

En presencia de publicidad, la proporción de respuestas en las que los modelos elegían el medicamento anunciado fue del 47.6%, frente al 35% sin publicidad, una diferencia de 12.6 puntos porcentuales. El estudio también registró cuatro casos extremos: tras incorporar el anuncio, la proporción de respuestas que elegían el fármaco promocionado pasó del 0% al 100%. Estas cifras reflejan cambios en las respuestas dentro de una prueba controlada y no pueden interpretarse directamente como la magnitud de un aumento de las prescripciones reales.

La influencia más difícil de detectar aparece entre varias terapias que son clínicamente razonables. Tanto la descripción del estudio de Mount Sinai como la cobertura de Medical Economics señalan que la publicidad puede modificar las preferencias del modelo entre opciones adecuadas sin que la respuesta parezca claramente incorrecta. Por ello, si la evaluación solo comprueba si la recomendación se ajusta a las guías clínicas, puede pasar por alto la influencia comercial que hay detrás de la elección.

Los modelos tampoco necesariamente informan al lector de que hubo publicidad. En una parte de las respuestas de texto libre revisadas mediante muestreo en el estudio, solo el 29.9% mencionaba explícitamente el anuncio, mientras que la repetición de información o afirmaciones publicitarias era más frecuente. Sin embargo, mencionar la publicidad y explicar fielmente cómo influyó en el criterio son dos cosas distintas; este porcentaje, por sí solo, no permite medir de forma completa la transparencia del proceso de recomendación.

Los límites de los resultados también son claros: el estudio no encontró que la publicidad aumentara de forma clara las recomendaciones de suplementos sin respaldo o de medicamentos claramente inferiores, ni realizó un seguimiento de las prescripciones reales, las decisiones de los pacientes, los costes o los resultados de salud. Lo que muestra es la susceptibilidad de los modelos a la influencia bajo determinadas condiciones de entrada, y aún no basta para concluir que todos los servicios de IA médica presentarán el mismo grado de sesgo.

El equipo de investigación recomienda que los desarrolladores y las instituciones sanitarias comparen las recomendaciones de los sistemas antes y después de su exposición a contenido promocional, revelen si la publicidad se ha incorporado a la información que lee el modelo y separen los materiales promocionales de las recomendaciones clínicas. Para los reguladores, la siguiente cuestión por aclarar es cómo deben aplicarse las normas publicitarias existentes cuando la promoción de medicamentos se integra en una respuesta de IA aparentemente neutral. Este estudio sugiere que la fiabilidad de la IA médica también depende de que las personas puedan identificar qué información influye en las recomendaciones.

References

  1. Fierce Pharma
  2. Mount Sinai Health System
  3. Medical Economics