FDA為生成式AI醫材畫出風險座標，擬把臨床覆核納入監管

生成式人工智慧進入醫療場域後，問題已不只是答案準不準。當系統能撰寫診斷摘要、提出處置建議，甚至串接其他工具執行任務，一次看似合理的錯誤輸出，就可能沿著臨床流程被放大。美國食品藥物管理局（FDA）因此啟動公開諮詢，試圖把這類醫療器材的風險轉化為可審查、可追蹤的監管要求。

FDA提出一套雙軸風險架構，依產品的臨床影響與生成式功能所帶來的風險進行分層。具體評估方式仍待諮詢意見充實，但核心方向是讓證據要求與可能造成的傷害相稱，而非將所有採用大型模型的產品一律歸入同一類別。

在上市前階段，開發者可能需要以預先設定的基準測試，檢驗系統在代表性情境下的表現。這類驗證不能只看平均正確率，還須面對生成式模型特有的變異：相同輸入可能產生不同答案，罕見病例與不同族群也可能暴露訓練資料未涵蓋的缺口。FDA此次公告未提供特定產品的試驗數據或統一門檻，因此基準如何設計、資料應涵蓋哪些臨床族群，仍是尚待回答的問題。

對風險較高的用途，FDA也把「臨床確認」列為可能的防護措施。若AI輸出將影響診斷或治療，要求合格醫療人員在採取行動前覆核，可降低錯誤直接抵達病人的機會；但這道防線是否有效，仍取決於介面設計、使用者能否辨識錯誤，以及繁忙工作流程會不會讓覆核流於形式。

監管視線同時延伸至產品上市之後。FDA構想採取與風險成比例的監測，追蹤模型更新、輸入資料改變及實際臨床環境中的效能漂移。這對生成式系統尤其重要：底層模型可能由第三方供應並持續改版，產品行為因而可能在沒有明顯外觀變化時悄然改變。

此次徵詢也特別觸及基礎模型與代理式系統。前者可被多種醫療產品共用，卻可能使訓練資料、版本控制和責任歸屬變得不透明；後者不僅生成文字或影像，還可能規劃步驟、呼叫工具並執行任務，讓錯誤從單一答案擴展為一連串行動。監管責任應由模型供應商、醫材開發者或部署機構承擔，將是制度設計的關鍵。

公開意見徵詢將於10月19日截止。現階段公布的是監管方向，而非已定案的審查標準；在缺乏同一事件的獨立資料來源及完整技術文件下，尚無法判斷最終證據門檻或哪些產品會受到最嚴格要求。不過，FDA已明確傳達一項原則：生成式AI醫材不能只在上市前通過一次測試，其安全性必須在整個產品生命週期中持續證明。