生活 · 約 3 分鐘閱讀

新加坡總理黃循財罕見聯署警告:AI必須始終在人類控制之下

2026/09/29
直接閱讀正文 ↓

9月22日,包括新加坡在內的20多個國家和歐盟共同發表人工智慧安全聲明,呼籲加強對「前沿AI」(frontier AI)的安全監管。

新加坡總理黃循財是22名聯署領導人之一,並明確表示,AI雖然擁有巨大潛力,但必須始終處於人類的控制和監督之下。

這一次,新加坡參與的並不只是一個原則性聲明,而是提出了比較具體的監管方向。

AI上線之前,先要「過安檢」

聯合聲明提出,開發前沿AI的企業應該建立更加透明的安全協議。

其中包括:

AI正式部署前進行強制測試;

接受獨立機構評估;

讓合格的評估人員能夠充分接觸AI系統,以判斷潛在風險。

一款能力越來越強的AI,不能只是「開發出來、測試一下、然後直接上線」。在投入實際使用之前,需要有人從獨立角度檢查它到底能做什麼、可能出現什麼問題。

聲明還呼籲各國政府和區域組織協調製定共同標準,並共享嚴重AI安全事故的信息。

更進一步,各國還建議聯合國成員國探索建立一個國際機構,負責制定前沿AI安全標準、進行驗證,並在AI技術能力達到特定安全門檻時召集各國協商。

為什麼現在突然強調人類控制?

原因在於,AI已經不只是回答問題、寫文章那麼簡單。

如今的AI代理(AI agents)可以自主完成一系列任務,包括調用工具、操作軟體,甚至在獲得網絡權限後執行更加複雜的操作。

最近幾個月發生的一些AI安全事件,也讓各國對這種能力更加關注。

CNA報道,今年7月,OpenAI的一些AI代理在測試過程中突破原本的限制,併入侵AI平台Hugging Face;Anthropic也曾披露,其AI模型在測試期間因配置問題獲得網絡訪問權限後,進入了三家公司系統。

這些事件並不意味著AI已經完全失控,但它們說明一個問題:

AI能夠自主執行的事情越來越多,人類需要提前考慮它在什麼情況下可能做出開發者沒有預料到的行為。

黃循財此前在今年的國慶群眾大會上也談到類似問題。他表示,隨著科技越來越強大,新加坡必須預判難以預測的風險,並採取適當的防護措施,同時確保人始終處於控制位置。

/www/orgs.pro/web/images/image/1791/17919706.avif

新加坡自己也在加碼AI安全

新加坡並不是這次聲明之後才開始關注AI安全。

今年以來,新加坡已經推出多項相關措施。

其中包括新加坡人工智慧安全研究院(Singapore AI Safety Institute),負責開發AI評估工具、研究AI安全問題,並推動共同的安全實踐。

今年的政府政策也提出,隨著AI能力不斷提升,高風險、高影響的AI系統需要逐步加強安全保障。

對於能夠自主執行更多任務的「代理型AI」,新加坡也已經推出相關治理框架,要求企業在使用這類系統時保持適當的人類監督。

這背後的思路其實很明確:AI安全能力,也必須跟著AI能力一起升級。

企業使用AI處理客戶資料,誰來負責?

AI替公司做出重要決定,最後責任在人還是機器?

AI生成虛假圖片、視頻甚至詐騙內容,平台應該承擔什麼責任?

AI代理如果自主執行錯誤操作,開發者和使用者應該如何控制風險?

這些問題,都會成為未來AI監管需要回答的問題。而未來AI到底應該如何監管,仍會是各國持續討論的問題。

及時獲取本站更新:

設為 Google 偏好來源

繼續閱讀

新聞

黃循財宣布新方向!新加坡政府將加速擁抱AI

社會

美國晶片禁令升級!新加坡緊急表態:全力確保AI基礎設施的「信任訪問」

社會

新加坡如何在全球財富大洗牌中突圍?信任與AI創新成關鍵,前外長葉聰意發出預警!

新聞

2026新加坡金融科技節亮點搶先看!顏金勇對話、OpenAI董事會主席亮相、螞蟻騰訊同台…

社會

新加坡總理黃循財發聲:2027年將主導東協,打造單一市場,搶占數字與能源新高地!

新聞

【桃色風暴間諜疑雲】受黃仁勛醜聞拖累 新加坡尋求「可信任通路」取得AI晶片

社會

美國晶片禁令升級!新加坡被列入管控名單,背後竟牽扯出英偉達CEO的驚人傳聞?

新聞

應用得宜,AI能制廣告、促交易,成新加坡中小企業全能助手

社會

法律和警察也救不了!新加坡資深部長警告:沒有良好治理,社會動盪不可避免

新聞

黃循財呼籲東協國加強合作 防跨境煙霾污染問題重演

生活

NTU數學系教授創辦AI公司:數據全程加密,模型告別黑盒

新聞

新加坡金融科技節即將開幕!AI、跨境支付、數字資產,下一個行業風口來了

新聞

新加坡擬推社媒年齡分級新規:13歲以下禁用,13至歲到17歲默認限制功能

社會

全球首家!新加坡傳染病局獲WHO認證,面對四大健康危機,我們該如何自救?

生活

新加坡ICA新措施來了!申請PR、開車跨境都要注意了!

生活

NTU獲700萬新元聯合研究資助!攜手嘉楠推進綠色計算與邊緣人工智慧

新聞

黃仁勛正在考慮復職!新加坡億萬富豪:沒有老黃,不會再有進一步投資

新聞

注意!新加坡網上出現「抗衰老神奇針」!衛科局警告:相關產品未經批准!

新聞

全球第一個!世衛把這件事交給了新加坡

生活

NUS教授警示新加坡高溫挑戰:降溫之外,更要守住日常生活與社區連接

新聞

新加坡嚴懲燒芭企業!新加坡提議東協聯手反擊跨境煙霾

新聞

黃總理:數碼經濟框架協定簽署只是第一步 吁東協擴大跨境支付網絡

新聞

專家:人工智慧科技進步 可帶來新風險和挑戰

新聞

入境新國當阿窿跑腿 大馬男子追債被控