9月22日，包括新加坡在內的20多個國家和歐盟共同發表人工智慧安全聲明，呼籲加強對「前沿AI」（frontier AI）的安全監管。
新加坡總理黃循財是22名聯署領導人之一，並明確表示，AI雖然擁有巨大潛力，但必須始終處於人類的控制和監督之下。
這一次，新加坡參與的並不只是一個原則性聲明，而是提出了比較具體的監管方向。
AI上線之前，先要「過安檢」
聯合聲明提出，開發前沿AI的企業應該建立更加透明的安全協議。
其中包括：
AI正式部署前進行強制測試；
接受獨立機構評估；
讓合格的評估人員能夠充分接觸AI系統，以判斷潛在風險。
一款能力越來越強的AI，不能只是「開發出來、測試一下、然後直接上線」。在投入實際使用之前，需要有人從獨立角度檢查它到底能做什麼、可能出現什麼問題。
聲明還呼籲各國政府和區域組織協調製定共同標準，並共享嚴重AI安全事故的信息。
更進一步，各國還建議聯合國成員國探索建立一個國際機構，負責制定前沿AI安全標準、進行驗證，並在AI技術能力達到特定安全門檻時召集各國協商。
為什麼現在突然強調人類控制？
原因在於，AI已經不只是回答問題、寫文章那麼簡單。
如今的AI代理（AI agents）可以自主完成一系列任務，包括調用工具、操作軟體，甚至在獲得網絡權限後執行更加複雜的操作。
最近幾個月發生的一些AI安全事件，也讓各國對這種能力更加關注。
CNA報道，今年7月，OpenAI的一些AI代理在測試過程中突破原本的限制，併入侵AI平台Hugging Face；Anthropic也曾披露，其AI模型在測試期間因配置問題獲得網絡訪問權限後，進入了三家公司系統。
這些事件並不意味著AI已經完全失控，但它們說明一個問題：
AI能夠自主執行的事情越來越多，人類需要提前考慮它在什麼情況下可能做出開發者沒有預料到的行為。
黃循財此前在今年的國慶群眾大會上也談到類似問題。他表示，隨著科技越來越強大，新加坡必須預判難以預測的風險，並採取適當的防護措施，同時確保人始終處於控制位置。
新加坡自己也在加碼AI安全
新加坡並不是這次聲明之後才開始關注AI安全。
今年以來，新加坡已經推出多項相關措施。
其中包括新加坡人工智慧安全研究院（Singapore AI Safety Institute），負責開發AI評估工具、研究AI安全問題，並推動共同的安全實踐。
今年的政府政策也提出，隨著AI能力不斷提升，高風險、高影響的AI系統需要逐步加強安全保障。
對於能夠自主執行更多任務的「代理型AI」，新加坡也已經推出相關治理框架，要求企業在使用這類系統時保持適當的人類監督。
這背後的思路其實很明確：AI安全能力，也必須跟著AI能力一起升級。
企業使用AI處理客戶資料，誰來負責？
AI替公司做出重要決定，最後責任在人還是機器？
AI生成虛假圖片、視頻甚至詐騙內容，平台應該承擔什麼責任？
AI代理如果自主執行錯誤操作，開發者和使用者應該如何控制風險？
這些問題，都會成為未來AI監管需要回答的問題。而未來AI到底應該如何監管，仍會是各國持續討論的問題。
