← 返回首頁

AI加速找藥,也逼近生物安全門檻:騰訊姚順雨發出警告

在香港一場科學峰會上,騰訊首席AI科學家姚順雨提醒,模型的生物學能力可能逐步跨越足以造成傷害的門檻。但這項風險判斷,與已經證實的實驗能力之間,仍須清楚區分。

By SURL BioNews

能協助尋找新藥的人工智慧,也可能讓危險的生物學知識更容易被運用。隨著AI走進生命科學研究,如何評估它帶來的效益與傷害,正成為研發工具之外的另一道考題。騰訊首席AI科學家姚順雨近日在香港提出警告:模型的生物學能力,可能即將跨越足以造成實際傷害的門檻。

《南華早報》11月8日報導,姚順雨在由香港科學院與未來科學大獎共同舉辦的科學峰會上作出上述判斷。報導將AI加速藥物探索的潛力,與遭惡意利用製造生物武器、引發大流行的可能性並置;其中,開放權重模型的風險尤其受到提醒。這是對能力發展方向的警告,並非已發生生物安全事故的通報。

未來科學大獎官方議程確認,活動於2026年11月7日在香港科學館舉行。姚順雨以騰訊首席AI科學家身分出席,主題演講題目為〈工具、代理,以及打造工具的代理:AI用於科學的演進〉,並參與人工智慧座談。議程可核實他的出席與演講主題,但沒有刊載這段警告的逐字內容,相關說法仍以媒體報導為依據。

對藥物研發而言,AI的吸引力在於協助研究者從大量資料中尋找線索,縮小後續實驗的探索範圍。然而,提出候選方向與證明藥物有效、安全,分屬不同階段。世界衛生組織2024年一份討論文件也指出,AI可應用於藥物與疫苗開發及部署的各個環節,但商業效益之外,還須確保公共衛生利益與適當治理。

開放權重是這場討論的一個關鍵:它讓使用者取得模型參數,自行部署或調整模型,也使發布者更難持續掌握後續用途。由此延伸的治理問題是,當模型能提供更有用的生物學協助時,發布前應如何評估濫用風險,又該以什麼證據決定開放程度。這些問題不能僅靠模型回答是否流暢來判斷。

目前可取得的同場報導與官方議程,未提供支撐這項門檻判斷的具體模型、訓練資料集、生物安全測試結果或實驗驗證,也沒有可據以估算風險的時間表。因此,姚順雨的發言具有預警意義,卻不足以證明AI已能獨立完成危險的生物實作。接下來需要釐清的,是哪些能力已被測得、它們在真實實驗條件下能走多遠,以及相應的防護措施是否有效。

References

  1. News Karnataka
  2. South China Morning Post
  3. Future Science Prize Foundation