生醫人工智慧 · global
讓胸部X光的判斷有跡可循:CLEAR把黑箱預測拆成臨床概念
這套開放模型不只辨識影像異常,也試圖交代判斷依據:它把預測連回數十萬個放射學觀察,讓醫師能檢查、修正模型倚賴的線索;但研究用途的透明度進展,距離臨床安全與監管認可仍有關鍵一段路。
胸部X光是臨床最常見的影像檢查之一,但能答對問題的人工智慧,未必能說清楚自己為何答對。這項落差不只是信任問題:若模型把肺部塌陷、拍攝姿勢或資料來源的偏差誤當成心臟擴大的證據,即使整體準確率看來不差,也可能在換一家醫院後失靈。刊於《Nature Biomedical Engineering》的CLEAR,正是從「能否追查判斷路徑」切入。
CLEAR是一套開放取用的生醫影像基礎模型。依官方程式庫說明,它把每張胸部X光轉換為與368,294個放射學觀察概念的相似程度,再由較輕量的分類器完成特定任務。如此一來,一次陽性或陰性預測不再只剩單一分數,研究者也能拆解哪些概念把結果推高、哪些把結果拉低。
這個龐大概念庫來自放射報告,涵蓋疾病徵象、解剖位置及影像描述等語意。官方模型資料顯示,CLEAR採用DINOv2 ViT-B/14影像編碼器與放射學文字編碼器,把影像和文字置於共同的768維空間;預訓練則使用MIMIC-CXR、CheXpert-Plus與ReXGradient合計873,342組胸部X光—報告配對,涉及239,391名患者。
研究團隊並在美國、歐洲與亞洲的四個醫師標註資料集上評估模型,以檢驗其跨資料來源的表現。更具體的價值出現在模型稽核:針對心縱膈擴大的判讀,研究者發現分類器倚賴與肺不張相關的概念;移除這條可能造成混淆的捷徑後,只重新擬合輕量分類器、未重訓影像編碼器,AUROC由0.727升至0.784。這顯示可解釋性不只是事後展示,也可能成為修正模型的工具。
不過,「概念可讀」不等於「因果可信」。概念庫由既有報告衍生,仍可能繼承報告措辭、醫院流程與病人組成的偏差;模型列出的高權重概念,也只能說明計算上的關聯,不能自行證明它抓到了真正的病理機制。四個醫師標註資料集提供跨地區測試,但公開摘要與模型資料仍不足以回答前瞻性工作流程、不同設備、少見疾病及各病人亞群中的穩定性。
研究團隊已公開程式、研究腳本、模型權重、概念詞彙與預先計算的嵌入資料,讓其他研究者能重現及檢驗這套方法。這提高了外部稽核的可能性,卻不構成臨床核准:官方程式庫明確標示CLEAR僅供研究,並非醫療器材,也未經診斷、治療或分流用途驗證。若要進入醫院,下一步不只要比較準確率,還須證明概念解釋在真實臨床中能被一致理解、能及時揭露錯誤,並在監管要求下留下可追溯的安全證據。