臨床AI會用工具，不等於已能安全判斷

在醫療場景裡，AI的風險往往不只在於「會不會回答」，而在於它是否知道何時該讀影像、何時該查報告、何時該計算，並把這些步驟接成可追溯的判斷鏈。一篇6月10日發布於arXiv的預印本提出MedCTA基準，試圖把這個問題從一般聊天能力，推向更接近臨床工作的工具使用能力。

MedCTA由KAUST Image and Video Understanding Lab相關團隊公開，定位為臨床工具代理的評測基準。根據論文摘要、專案頁與官方程式庫說明，資料集包含107個經臨床人員驗證的多模態任務，涵蓋放射影像、病理切片與臨床報告等輸入；每個例子不只是問題與答案，也包含參考工具使用軌跡與最終標準答案。

這類任務的重點，是讓AI代理在面對臨床問題時選擇並調用工具。專案頁列出的5種可執行工具包括OCR、影像描述、區域屬性描述、Google搜尋與計算器。換言之，模型被要求做的不是單次問答，而是判斷要不要讀文字、描述病灶區域、查找外部資訊或完成數值運算，再把工具輸出整合成答案。

研究團隊評估18個模型，並分析1,926次自主執行流程。專案頁報告，最佳自主結果準確率為31.54%，最強開源模型為27.80%；但當模型被提供「金標準」工具路由時，表現明顯提高。這個落差指向一個關鍵限制：許多模型可能具備解讀部分資訊的能力，卻不穩定地知道該用什麼工具、以何種順序使用，以及何時停止。

官方GitHub頁面進一步列出失敗診斷，例如API錯誤率與工具調用不足等問題；這些數字來自該專案釋出的評測說明，仍需以完整論文與後續重現結果檢驗。不過，方向已相當清楚：在臨床AI代理中，錯誤不只可能來自答案推理，也可能來自流程管理。一次漏用OCR、錯過病理區域描述，或過度依賴搜尋，都可能讓後續推論偏離病人資料本身。

Hugging Face資料集頁顯示，MedCTA目前以Apache-2.0授權釋出，train split含107筆資料，欄位包括影像、問題、答案、工具名稱、工具鏈、任務類別、軌跡與結構化標準答案等。以規模來看，它更像一個精細標註的壓力測試，而非可直接代表全部臨床情境的大型資料庫；其價值在於把「工具使用是否可靠」拆成可檢查的行為，而不是只比較最後答對率。

對醫院與監管者而言，這樣的基準提醒了一個實務問題：如果AI系統要進入影像判讀、病理輔助或報告彙整流程，審查重點不能只看模型在封閉測驗中的平均分數。更重要的是，系統如何記錄每次工具調用、如何處理工具失敗、如何避免錯誤路由被包裝成流暢答案，以及臨床人員能否在關鍵節點介入。

MedCTA本身仍是預印本與開放基準，不能被視為任何臨床AI產品的驗證結論。它提出的是一個較具體的衡量框架：醫療AI若要成為代理式系統，必須證明自己不只會讀懂醫學內容，也能在複雜、跨模態、工具依賴的工作流中保持穩定。這一步距離臨床部署仍遠，卻把討論從抽象能力拉回到可測量的安全性。