數位醫療 · global
AI聽診愈來愈不準,醫師把關能攔住錯誤嗎?
48名醫師參與的隨機實驗顯示,先獨立判讀、再看AI建議,仍未能阻止診斷表現隨系統可靠度下降,凸顯臨床監測需要更完整的安全網。
當診斷AI開始出錯,最後拍板的醫師能否及時察覺?11月13日刊於《npj Digital Medicine》的研究,以心音判讀測試這道安全防線:隨著AI建議變得不可靠,醫師與AI共同作答的表現也跟著下降。
研究將48名醫師隨機分為兩組,在模擬遠距聽診情境中,判斷錄製的心音屬於正常或異常。一組先看AI建議;另一組必須先獨立分類,再看建議並作出最終判斷。後者旨在促使醫師先形成自己的意見,減少直接跟隨系統。
實驗共40題,分為四階段,AI建議的正確率依序降至90%、60%、50%及0%。這是研究者刻意安排的故障情境;最後階段還加入聲音與視覺圖像不同步的異常,測試醫師是否能察覺系統失靈。
醫師確實能修正部分錯誤,但在可靠度偏低時,人機合作表現仍低於醫師獨立判讀的基準。要求先自行作答,也未改善整體人機表現。換言之,保留最後決定權,未必足以抵消錯誤建議的影響。
這項結果有清楚的適用邊界:它來自小規模、受控的心音分類實驗,沒有直接測量病人的治療結果,也不能代表所有診斷AI。真實診間還有病史、其他檢查與時間壓力,可能改變醫師使用建議的方式。
研究因此把問題推向醫院與開發端:如何持續追蹤系統表現,又由誰辨識故障並啟動處置?作者主張,應結合系統監測與組織層級的責任安排。這些措施仍待驗證,但實驗已提醒,臨床AI的安全不能只寄望於每一次診斷時的人為把關。