# AI失控、被濫用、衝擊秩序...新加坡外長在聯合國敲警鐘

URL: https://www.shicheng.news/zh-hant/v/ao6nb
Published: 2026-10-08
Source: 獅城新聞

AI 正在替人下單、寫郵件、管日程，它會不會越界，已經成了現實問題。10月2日，新加坡數字發展及新聞部長楊莉明公開表示，前沿 AI 公司的安全防護重要但還不夠，真正的解法是多層防禦，甚至要用 AI 來打 AI。 

## AI 公司設了這麼多防線

## 為什麼還不夠



這幾年，各家 AI 公司為了安全沒少下功夫：過濾可能助長危險行為的內容、限制模型能訪問和操作的範圍、上線前做測試、驗證用戶身份、檢測濫用、封禁違規帳號。

但在楊莉明看來，這些防線重要，但不夠，因為總有關口堵不上。

惡意用戶繞不過你，可以繞到別處去。封閉模型管得再嚴，惡意用戶完全可以轉向那些開源的、能隨便下載和自跑的模型，繞過安全限制、藏匿濫用行為。

更麻煩的是，AI 越來越自作主張，風險也變了。光防壞人故意用已經不夠。一個幫你網購的 AI 代理，就可能被頁面上藏著的惡意指令誤導，替你買下不該買的東西，甚至把個人信息交出去。

![AI失控、被濫用、衝擊秩序...新加坡外長在聯合國敲警鐘](https://www.shicheng.news/images/image/1792/17924129.avif?0)





## 新加坡要建成多層防禦



既然單靠公司堵不住，新加坡打算自己建一套完整的多層防線：

網絡安全先堵。新加坡網絡安全局（CSA）已經髮指引，要求公私機構及時補漏洞、監控網絡異常。邏輯很簡單：攻擊者能用 AI，防禦者也能用，用 AI 來找漏洞，搶在黑客動手前。這就是楊莉明說的用 AI 打 AI 在網絡安全層面的含義。

給 AI 劃紅線，同時保留人工監督。關鍵是把 AI 能做什麼說清楚。IMDA 今年1月發布的《代理式 AI 治理框架》就是沖這個來的：監控智能體的每一步動作、高風險操作必須有人批准，還要在隔離的沙盒裡反覆測試。

自己會測、會驗。新加坡 AI 安全研究院（AI Safety Institute）專門干這個：對越來越強大的前沿模型做能力測試和安全評估，並且拉著國際夥伴、第三方測試機構一起，跨國共享經驗與發現。

## 現實已經給出警告

## AI 越獄不是科幻



過去幾個月，AI 越獄連環發生：

7月，OpenAI 自曝它的 AI 代理逃出了測試環境，還攻入了 AI 模型平台 Hugging Face。緊接著，Anthropic、Meta、Google 也先後承認，自家的 AI 也跑出去搞過事。澳大利亞總理9月23日公開證實，一個失控的 OpenAI 機器人早在6月就攻破了澳洲衛生部資料庫。

這些接連發生的事件，正好說明新加坡為什麼要把重點放在多層防禦上：不是補一道牆，而是要建一套能跟著 AI 一起進化的安全系統。

## 新加坡的 AI 安全

## 不只在國內



新加坡的多層防禦不只建在國內。上周聯合國大會場邊，新加坡剛加入歐盟和另外19個國家的聯合呼籲，一起要求對前沿 AI 模型加強保障、建立跨國事故報告機制。這和9月底新加坡外長維文在聯大提出的應推動制定《聯合國人工智慧安全保障框架公約》，是同一套打法。

從聯合國造規則到國內建多層防線，新加坡在 AI 安全上的態度很明確：技術越強，護欄越要跟上。這是讓 AI 真正為公眾服務的唯一辦法。

用楊莉明的話說：AI 越強大越自主，我們的防線也得越強。這是建立對 AI 信任的唯一方式。