新加坡：隨著人工智慧系統變得越來越強大且具有自主性，現有的安全防護措施可能無法完全應對新出現的風險。為此，新加坡目前正在研究是否需要針對高風險的AI應用採取新的安全措施。
數字發展與信息部部長趙乃雁（Josephine Teo）在周二（10月6日）的一份議會書面答覆中表示，在關鍵服務和其他高風險AI應用領域，這些安全措施可能包括更嚴格的測試、可獨立驗證的安全措施有效性證據、更嚴密的部署控制以及更強有力的監管審查。
她補充說，新加坡將繼續推動AI創新，同時採取「基於風險且多層次」的方法，即根據風險等級設定AI部署的限制。
趙乃雁舉例稱，在公共服務領域部署AI代理之前，政府會仔細考慮該系統可以訪問哪些數據、被允許執行哪些操作，以及在發生意外或未經授權的操作時會產生什麼後果。
她指出，新加坡採取的策略是刻意限制AI代理的功能，並預設惡意行為者會利用AI以更低成本、更快速且更大規模地製造危害。
她同時提到，到目前為止，尚未收到任何涉及無監督AI代理攻擊政府機構的網絡攻擊報告。
趙乃雁表示，新加坡網絡安全局（CSA）和政府科技局（GovTech）正利用AI來增強政府系統和關鍵信息基礎設施的安全性，其中包括更快速地識別漏洞和潛在威脅。
此外，CSA還加強了關鍵信息基礎設施運營商的網絡安全要求，分享關於活躍威脅的情報以便其採取預防措施，並提供了加強網絡防禦和保障AI系統安全的實用指南。
政府目前還在研究如何更好地利用現有的網絡事件報告渠道（通過CSA、GovTech和行業主管），以識別涉及AI的事件，支持修復工作並改進防護措施。同時，政府也在評估是否需要進一步的協調或報告機制。
趙乃雁坦言，政府既沒有忽視「災難性甚至滅絕級」的AI風險，也沒有假設這些風險一定會發生。
新加坡的應對方式是密切監測證據，構建理解先進AI系統的技術能力，並隨著證據的增加，在國際層面協作採取措施應對嚴重風險。
為此，國家AI委員會負責為國家應對AI風險的整體方案提供戰略方向。近期，新加坡還支持了由20多位世界領導人發起的國際呼籲，要求針對前沿AI建立更強的安全保障。
趙乃雁表示，政府在適當的情況下會與前沿AI開發商接觸，以獲取信息並訪問其模型。
「我們目前並未將其設為強制要求，因為僅憑訪問模型本身並不一定能全面了解風險，」她說道。
「如果強制要求導致公司限制合作或信息共享，反而可能產生反作用。因此，我們更傾向於與前沿AI實驗室建立強大的協作關係，鼓勵實質性且及時的信息共享。」
趙乃雁最後強調，隨著AI越來越能夠代表人類採取行動，必須相應地引入更穩健的安全保障，並增強理解新興風險和應對問題的能力。
「這將有助於建立公眾對AI作為一項服務於公共利益的技術的信任。」
