醫療AI該管多嚴？《Nature Health》主張看它握有多少決策權

醫療AI的風險，不只取決於模型會不會答錯，也取決於人們是否會照著答案行動。當聊天機器人、穿戴裝置與健康應用程式逐漸進入日常生活，具有醫療影響力的演算法早已不全在醫院裡；同一句建議若能改變患者是否就醫、服藥或接受檢查，其後果便可能遠超一般資訊工具。

Yu Gu與Eric J. Topol在《Nature Health》評論文章中提出，健康AI應按照它對個人臨床與健康決策具有多大影響力來評估與監管。這項觀點把焦點從產品名稱、使用場所或單一技術指標，移向一個更直接的問題：系統究竟能在多大程度上塑造一個人的健康軌跡？

依此邏輯，只協助整理病歷、且輸出必須由專業人員覆核的工具，與直接提出診斷、分流或治療建議的系統，不應承受完全相同的要求。患者自行使用的症狀評估程式或健康助理，即使未被部署在傳統醫療機構內，只要可能促使使用者延誤就醫、調整藥物或採取其他健康行動，也不能僅因標示為「資訊用途」便被視為低風險。

「決策權限」也讓模型準確率以外的因素進入監管視野。相同的模型若一處只提供參考，另一處卻能自動執行或成為使用者唯一可得的建議來源，實際風險並不相等。人類能否推翻輸出、錯誤是否可逆、建議如何呈現，以及系統面對不確定資訊時會不會拒答，都可能改變AI真正擁有的影響力。

若要落實這套思路，監管者仍須把抽象的「影響程度」轉成可檢查的標準，包括誰握有最後決定權、AI輸出是否會觸發後續行動、使用者是否理解其限制，以及產品更新後是否改變原先的權限邊界。院外工具尤其棘手，因為使用情境分散，監測錯誤與追蹤傷害通常比醫院內部更困難。

這篇文章屬於政策評論，而非驗證新系統的臨床研究；公開摘要未提出分級門檻、資料集或成效數據，也無法證明以決策權限分類能直接降低傷害。它提供的是一項監管原則：醫療AI不應只按技術形式貼標籤，而應根據它在真實世界獲得多少行動空間，配置相稱的證據、人類監督與持續監測要求。