# AI越來越像「獨立個體」？新加坡政府緊急出手：高風險領域必須加強監管，絕不能掉以輕心！

URL: https://www.shicheng.news/zh-hant/v/QkybP
Published: 2026-10-06
Source: 獅城新聞

![AI越來越像「獨立個體」？新加坡政府緊急出手：高風險領域必須加強監管，絕不能掉以輕心！](https://www.shicheng.news/images/image/1792/17924004.avif?0)





新加坡：隨著人工智慧系統變得越來越強大且具有自主性，現有的安全防護措施可能無法完全應對新出現的風險。為此，新加坡目前正在研究是否需要針對高風險的AI應用採取新的安全措施。

數字發展與信息部部長趙乃雁（Josephine Teo）在周二（10月6日）的一份議會書面答覆中表示，在關鍵服務和其他高風險AI應用領域，這些安全措施可能包括**更嚴格的測試、可獨立驗證的安全措施有效性證據、更嚴密的部署控制以及更強有力的監管審查**。

她補充說，新加坡將繼續推動AI創新，同時採取「基於風險且多層次」的方法，即根據風險等級設定AI部署的限制。

趙乃雁舉例稱，在公共服務領域部署AI代理之前，政府會仔細考慮該系統可以訪問哪些數據、被允許執行哪些操作，以及在發生意外或未經授權的操作時會產生什麼後果。

她指出，新加坡採取的策略是**刻意限制AI代理的功能**，並預設惡意行為者會利用AI以更低成本、更快速且更大規模地製造危害。

她同時提到，到目前為止，尚未收到任何涉及無監督AI代理攻擊政府機構的網絡攻擊報告。

趙乃雁表示，新加坡網絡安全局（CSA）和政府科技局（GovTech）正利用AI來增強政府系統和關鍵信息基礎設施的安全性，其中包括更快速地識別漏洞和潛在威脅。

此外，CSA還加強了關鍵信息基礎設施運營商的網絡安全要求，分享關於活躍威脅的情報以便其採取預防措施，並提供了加強網絡防禦和保障AI系統安全的實用指南。

政府目前還在研究如何更好地利用現有的網絡事件報告渠道（通過CSA、GovTech和行業主管），以識別涉及AI的事件，支持修復工作並改進防護措施。同時，政府也在評估是否需要進一步的協調或報告機制。

趙乃雁坦言，政府**既沒有忽視「災難性甚至滅絕級」的AI風險，也沒有假設這些風險一定會發生**。

新加坡的應對方式是密切監測證據，構建理解先進AI系統的技術能力，並隨著證據的增加，在國際層面協作採取措施應對嚴重風險。

為此，國家AI委員會負責為國家應對AI風險的整體方案提供戰略方向。近期，新加坡還支持了由20多位世界領導人發起的國際呼籲，要求針對前沿AI建立更強的安全保障。

趙乃雁表示，政府在適當的情況下會與前沿AI開發商接觸，以獲取信息並訪問其模型。

「我們目前並未將其設為強制要求，因為僅憑訪問模型本身並不一定能全面了解風險，」她說道。

「如果強制要求導致公司限制合作或信息共享，反而可能產生反作用。因此，我們更傾向於與前沿AI實驗室建立強大的協作關係，鼓勵實質性且及時的信息共享。」

趙乃雁最後強調，隨著AI越來越能夠代表人類採取行動，必須相應地引入更穩健的安全保障，並增強理解新興風險和應對問題的能力。

「這將有助於建立公眾對AI作為一項服務於公共利益的技術的信任。」