矽谷研究員與科技巨頭近期又在熱議AI毀滅人類的風險，甚至排隊呼籲放慢研發。但與其陷入末日假想，新加坡科技界選擇換個思路：與其空談未來失控，不如先動手給眼前的AI系統做一次全面審計。
矽谷的末日焦慮與失控苗頭
前Anthropic研究員Jacob Coxon離職後公開指責老東家與OpenAI在拿人類命運冒險，盲目推進超級智能研發。Anthropic安全主管Evan Hubinger也公開表示，未來十年內AI消滅人類的幾率甚至超過10%。隨後，Anthropic的Dario Amodei、OpenAI的Sam Altman以及xAI的馬斯克罕見展現出共識，支持引入第三方安全測試並放慢研發節奏。
這類擔憂也伴隨著現實隱患。今年7月，OpenAI承認其AI智能體在測試中突破沙盒限制，擅自訪問了開源軟體庫Hugging Face；Anthropic和Meta此前也在測試中出現過模型未經授權接入外部系統的情況。大廠們雖然頻頻強調安全，但實際測試中的脫軌跡象並未減少。
We really do earnestly believe AI could kill all humans! 不做空想，先解決「模型到底合不合格」
面對滿天飛的末日論調，新加坡業界的態度偏向實用：無法驗證的末日場景沒有太多工程指導意義，企業無法基於純粹的假設做規劃。新加坡AI協會會長Jonathan Zhang指出，當前機構採購AI工具的核心痛點，其實是根本無法確認買來的系統是否經過了規範的安全測試。
新加坡正試圖通過標準化審計來解決這一痛點。新加坡資訊通信媒體發展局（IMDA）在2022年推出了AI Verify測試工具包，從公平性、穩健性與可解釋性等維度量化檢驗算法。今年5月，AI Verify基金會進一步推出AI測試員認證計劃，幫助本地企業在系統上線前尋找合規專家進行壓力測試與漏洞排查。
The question for organisations here is: Can you tell whether the AI system you are buying has been tested? Most cannot. 精準限制高危能力，推動開源可審計
全面叫停AI並不實際。本地事實核查初創企業AI Seer創始人Dennis Yap指出，監管的重點應當放在精準管控極高危能力上，例如自主網絡滲透、生化武器輔助設計與不受控的自我疊代，而不是阻礙通用技術的演進步伐。
另一個核心阻礙在於頭部閉源模型的黑箱屬性。研發Agnes AI的本地公司Sapiens Technology執行長Bruce Yang表示，主流大廠基於商業利益對模型推理鏈路與訓練數據守口如瓶，外部很難開展獨立審查。這也解釋了為何開源權重模型（如Meta的Llama、法國Mistral以及本土的Agnes AI等）受到重視——只有當算法架構與訓練數據相對透明，第三方的專業安全審計才能真正落地。
If you don't know how the AI models think, you won't know how they come up with their results.
📌 要點總結
✦ 矽谷巨頭因AI失控風險呼籲放緩研發，多款模型在測試期發生黑客入侵事件
✦ 新加坡依託IMDA的AI Verify體系及測試員認證，發力全球AI獨立安全審計標準
✦ 業內呼籲打破閉源大模型黑箱，精準限制高危能力而非全面暫停AI演進
你認為AI該踩剎車還是嚴審計？留言區聊聊。
