醫療人工智慧 · global
診斷更準,誤報也更多:推理型AI的臨床取捨
一項跨12個專科的研究發現,推理型AI更能找出主要診斷,卻也列出更多錯誤疾病。醫師參與核查可改善表現,但回溯病歷上的進步,還需要真實診療驗證。
在診間,多想到一種疾病可能避免漏診,也可能讓病人走向不必要的檢查與治療。10月29日刊於《Nature Communications》的一項研究,揭示推理型人工智慧的這道難題:模型更常答對主要診斷,卻也更容易增加錯誤診斷。對臨床而言,答對的能力與控制誤報的能力,必須一起衡量。
研究團隊建立名為AIMS-LDR的長篇病歷診斷評測,比較六組配對的推理型與一般大型語言模型,涵蓋12個專科。據同事件報導i10X整理,資料包含MIMIC-IV的1,157次住院紀錄及eICU的1,821個案例,合計2,978筆。模型須根據病史、生命徵象、檢驗及影像報告等資訊,提出診斷判斷。
i10X引述的LDR-MIMIC結果,讓取捨變得具體:推理型模型的主要診斷準確率為52.8%,一般模型為38.7%;但每個案例的平均偽陽性診斷,也從1.09項增加至1.47項,增幅約34.8%。這裡的偽陽性,是模型列出、卻未符合研究參考答案的疾病;它不是病人實際接受了多少次錯誤治療。
研究也發現,推理型模型提出的鑑別診斷——也就是供醫師比較的可能疾病——更具臨床相關性,但重複執行時的答案較不一致。Scienmag對同一論文的報導指出,準確度提高、偽陽性也增加的現象,在不同提示設計、模型參數及評估方式下依然出現,顯示問題難以靠單一提示技巧解決。
團隊因此測試一種明確分工:由模型擴展診斷可能性,再由醫師核查其可靠性。在15名醫師參與的驗證中,這種結構化協作提高了準確度,也減少偽陽性。結果支持把醫師的篩選與判斷納入流程,但證據仍來自受控的回溯測試,尚未證明能改善真實病人的照護結果。
核查也需要時間。據i10X報導,醫師閱讀完整推理內容,每例約需15至20分鐘;檢視精簡輸出則約需5至8分鐘。若要將這類工具帶進忙碌的臨床現場,如何讓醫師迅速找到支持診斷的證據與推論漏洞,會直接影響協作是否可行。
這項研究的邊界同樣清楚:主要評測採用固定疾病候選清單,並以出院診斷編碼作為參考,可能受到清單限制與編碼誤差影響。既有病歷也無法完整重現醫師追問、追加檢查及病況變化的過程。下一步需要前瞻性臨床研究,確認較高的診斷準確度,能否在日常診療中轉化為更少誤診與更好的病人結果。