← 返回首頁

當心音AI開始出錯,先讓醫師獨立判讀也未能守住準確率

一項48人隨機實驗發現,隨著模擬AI的可靠度下降,人機共同判讀也跟著失準。研究把臨床監督的問題推向更具體的層次:有人覆核,是否就足以保障安全?

By SURL BioNews

醫療AI出了錯,最後把關的人能否及時察覺?11月13日刊於《npj Digital Medicine》的一項心音判讀實驗發現,即使要求參與者先自行判斷,再看AI建議,仍未能阻止最終準確率隨系統失準而下降。

研究將48名參與者隨機分為兩組,每人判讀40段數位心音,區分正常與含有病理性雜音等異常聲音。一組先看AI建議,另一組先獨立作答,再決定是否修改。論文將樣本統稱為醫師,但方法段列明,其中18人是醫學系最後一年學生,解讀時須保留這項差異。

心音取自公開的CirCor資料集;AI建議則由研究團隊人為調整,讓四個階段的正確率依序降至90%、60%、50%與0%。因此,這是刻意模擬故障的行為實驗,並非某款臨床產品實際失效的紀錄。

人機共同判讀的平均正確率由約81%降至58%。在低可靠度階段,參與者雖修正了部分AI錯誤,表現仍低於獨立判讀的基準;先自行作答的安排也未改善整體結果。這顯示,形成自己的答案,未必足以抵擋後續錯誤建議的影響。

實驗結束後,僅12.5%的參與者主動提到系統可靠度下降。研究也發現,先獨立判讀組對自身判斷的信心,比對AI的信任更早出現顯著下滑。作者推測,參與者可能先懷疑自己,但這項心理機制尚待驗證。

這些結果不能直接推算真實診間的風險。實驗缺少完整病史與醫病互動,故障又按固定順序快速惡化;最後階段還加入聲音與圖像不一致的線索,難以拆開各項因素的影響,也沒有衡量病人健康結果。

研究提出的實務問題,是如何界定「有效監督」:只要比故障AI好,還是至少不能低於醫師獨立判讀?作者主張,除了臨床人員覆核,醫院與開發者也應參與系統層級監測。至於哪些監督安排能真正守住診斷品質,仍須在貼近臨床的環境中驗證。

References

  1. npj Digital Medicine