醫療人工智慧 · global
醫療AI知道何時少做檢查嗎?六款模型在臨床灰色地帶分歧
一項涵蓋225個臨床情境的研究發現,語言模型大多能辨識不必要的醫療介入,但遇上心電圖與甲狀腺結節等爭議情境,答案明顯分岔。低錯誤率背後,仍有走進診間前必須回答的問題。
多做一項檢查,未必就多一分安心。偶然發現的異常,可能帶來更多追蹤、切片與焦慮;但若過度克制,也可能錯失必要診療。當患者與醫師開始向人工智慧尋求建議,模型能否掌握這條界線,成為醫療安全的一道考題。《內科醫學年鑑》刊登的新研究顯示,六款語言模型在多數測試中能避免不必要的介入,困難卻集中在人類醫學本身也有分歧的地方。
研究由以色列Clalit醫療服務體系與內蓋夫本古里安大學等機構的團隊進行。依美國內科醫師學會公布的資料,研究者以「Choosing Wisely」倡議中15項減少低價值醫療的建議,建立225個臨床情境,測試六款商用大型語言模型。設計的關鍵是成對比較:讓相近病例分別具備與不具備介入理由,檢驗模型是否能隨臨床條件改變判斷。
整體而言,在研究設定為不需要介入的情境中,模型有5.4%的回答仍建議檢查或治療;在應接受介入的對照情境中,錯誤建議不予介入的比例為0.6%。15項建議之中,有8項在測試裡未出現不必要介入的建議。這些數字呈現的是模型回答與測試判準的符合程度,不能直接換算成真實診間的漏診率或患者受害風險。
平均值也掩蓋了局部弱點。大學發布的資料指出,低風險成人心電圖情境中,28.3%的回答被判為建議不必要檢查;小型、偶然發現的甲狀腺結節情境則達42.8%。不過,心電圖案例的錯誤多出現在提及心悸的情境,症狀可能使檢查具有臨床理由;甲狀腺結節是否需要超音波,則涉及不同醫學會建議的差異。這也提醒讀者,部分所謂錯誤,必須連同採用的判準一起理解。
模型之間的差距同樣醒目。研究團隊在大學消息中表示,面對相同的灰色地帶病例,一款模型建議不必要檢查的比例不到一成,另一款卻達八成。流暢而肯定的文字,因此未必代表穩定一致的醫學判斷;選用哪個模型,也可能改變使用者收到的建議。
這項研究提供了辨識模型弱點的線索,但證據仍來自預先設計的臨床情境,並非把AI導入照護流程後追蹤患者結果。研究者提出的下一道問題也更貼近診間:當焦慮的患者反覆要求「再檢查一下」,模型能否維持原本合理的克制?在將這類工具用於臨床決策前,除了答題表現,還需要驗證它面對持續追問、資訊不完整與專業意見分歧時的反應。