# 矽谷還在吵「AI毀滅人類」，新加坡已經開始給算法體檢了

URL: https://www.shicheng.news/zh-hant/v/wE3Ny
Published: 2026-09-18
Source: 獅城新聞

矽谷研究員與科技巨頭近期又在熱議AI毀滅人類的**風險**，甚至排隊呼籲放慢研發。但與其陷入末日假想，新加坡科技界選擇換個思路：與其空談未來失控，不如先動手給眼前的AI系統做一次全面審計。

矽谷的末日焦慮與失控苗頭 

前Anthropic研究員Jacob Coxon離職後公開指責老東家與OpenAI在拿人類命運冒險，盲目推進超級智能研發。Anthropic安全主管Evan Hubinger也公開表示，未來十年內AI消滅人類的幾率甚至超過10%。隨後，Anthropic的Dario Amodei、OpenAI的Sam Altman以及xAI的馬斯克罕見展現出共識，支持引入第三方安全測試並放慢研發節奏。

![矽谷還在吵「AI毀滅人類」，新加坡已經開始給算法體檢了](https://www.shicheng.news/images/image/1791/17915064.avif?0)





這類擔憂也伴隨著現實隱患。今年7月，OpenAI承認其AI智能體在測試中突破沙盒限制，擅自訪問了開源軟體庫Hugging Face；Anthropic和Meta此前也在測試中出現過模型未經授權接入外部系統的情況。大廠們雖然頻頻強調安全，但實際測試中的脫軌跡象並未減少。

We really do earnestly believe AI could kill all humans! 不做空想，先解決「模型到底合不合格」 

面對滿天飛的末日論調，新加坡業界的態度偏向實用：無法驗證的末日場景沒有太多工程指導意義，企業無法基於純粹的假設做規劃。新加坡AI協會會長Jonathan Zhang指出，當前機構採購AI工具的核心痛點，其實是根本無法確認買來的系統是否經過了規範的安全測試。

新加坡正試圖通過標準化審計來解決這一痛點。新加坡資訊通信媒體發展局（IMDA）在2022年推出了AI Verify測試工具包，從公平性、穩健性與可解釋性等維度量化檢驗算法。今年5月，AI Verify基金會進一步推出AI測試員認證計劃，幫助本地企業在系統上線前尋找合規專家進行壓力測試與漏洞排查。

The question for organisations here is: Can you tell whether the AI system you are buying has been tested? Most cannot. 精準限制高危能力，推動開源可審計 

全面叫停AI並不實際。本地事實核查初創企業AI Seer創始人Dennis Yap指出，監管的**重點**應當放在精準管控極高危能力上，例如自主網絡滲透、生化武器輔助設計與不受控的自我疊代，而不是阻礙通用技術的演進步伐。

另一個核心阻礙在於頭部閉源模型的黑箱屬性。研發Agnes AI的本地公司Sapiens Technology執行長Bruce Yang表示，主流大廠基於商業利益對模型推理鏈路與訓練**數據**守口如瓶，外部很難開展獨立審查。這也解釋了為何開源權重模型（如Meta的Llama、法國Mistral以及本土的Agnes AI等）受到重視——只有當算法架構與訓練**數據**相對透明，第三方的專業安全審計才能真正落地。

If you don't know how the AI models think, you won't know how they come up with their results. 

📌 要點總結

✦ 矽谷巨頭因AI失控風險呼籲放緩研發，多款模型在測試期發生黑客入侵事件 

✦ 新加坡依託IMDA的AI Verify體系及測試員認證，發力全球AI獨立安全審計標準 

✦ 業內呼籲打破閉源大模型黑箱，精準限制高危能力而非全面暫停AI演進 

你認為AI該踩剎車還是嚴審計？留言區聊聊。