← 返回首頁

藥品廣告改變AI用藥建議:答案合理,仍可能受商業訊息牽引

一項涵蓋12款AI模型的對照研究發現,加入明確標示的藥品廣告後,模型更常選擇被宣傳的藥物。當偏移發生在數種合適療法之間,只檢查答案是否正確,可能看不見商業影響。

By SURL BioNews

向AI詢問治療選擇時,一個看似合理的答案,可能也帶著廣告留下的痕跡。美國西奈山伊坎醫學院團隊發現,即使病人資料與可選療法完全相同,只要在病例前放入藥品廣告,AI選擇被宣傳藥物的比例就會上升。這讓醫療AI的評估多了一道問題:建議符合醫學知識,是否就足以代表判斷不受商業訊息左右?

這項研究於11月11日刊登於《The Lancet Digital Health》。研究人員測試Google、OpenAI與Anthropic等公司的12款模型,使用33個由醫師撰寫的臨床情境,共分析258,559則回覆。每個情境分別在沒有廣告,以及病例前加入真實、明確標示的藥品廣告兩種條件下測試;病人資訊與治療選項保持不變,以辨識廣告本身的影響。

在有廣告的條件下,模型選擇該廣告藥物的回覆比例為47.6%,高於無廣告時的35%,相差12.6個百分點。研究也記錄到四個極端案例:加入廣告後,對被宣傳藥物的選擇比例從0%轉為100%。這些數字反映的是受控測試中的回答變化,不能直接當成真實處方增加的幅度。

更難察覺的影響,出現在數種臨床上都合理的療法之間。西奈山的研究說明與《Medical Economics》報導均指出,廣告可能改變模型在合適選項中的偏好,卻不讓答案顯得明顯錯誤。因此,若評估只問推薦是否符合臨床指引,就可能漏掉選擇背後的商業牽引。

模型也未必會讓讀者知道廣告曾經出現。在研究抽查的一部分自由文字回覆中,只有29.9%明確提及廣告,重述廣告資訊或宣稱的情況則更常見。不過,是否提及廣告,與是否如實解釋它如何影響判斷,仍是兩件事;這項比例本身無法完整衡量推薦過程的透明度。

結果的界線同樣清楚:研究未發現廣告明確增加模型推薦缺乏支持的補充品,或明顯較差藥物的情形,也沒有追蹤實際處方、病人決策、費用或健康結果。它呈現的是模型在特定輸入條件下容易受到影響,尚不足以推論所有醫療AI服務都會出現相同程度的偏移。

研究團隊建議,開發者與醫療機構應比較系統接觸宣傳內容前後的建議,揭露廣告是否進入模型讀取的資訊,並將宣傳材料與臨床建議分開。對監管者而言,接下來要釐清的是:當藥品宣傳被吸收進一段看似中立的AI回答,既有廣告規範該如何適用。這項研究提示,醫療AI的可信度,還取決於人們能否辨識推薦受到哪些資訊影響。

References

  1. Fierce Pharma
  2. Mount Sinai Health System
  3. Medical Economics