新加坡數字發展與信息部政務部長陳傑豪（Tan Kiat How）在周三（10月7日）表示，新加坡政府目前正在開展一系列試點和實驗，旨在探索如何以負責任的方式部署智能體人工智慧（Agentic AI）系統。
在回答議員關於AI模型安全要求的質詢時，他表示，面對日益具備自主能力的智能體AI系統，政府正在審查並加強現有的框架和體系，同時密切監測該新興領域的全球發展動態。
「我們正在開發超越現有框架和方法的能力。通過運行試點和實驗，我們旨在緊跟技術演進，並理解負責任地實施智能體系統需要具備哪些條件，」陳傑豪在回答議員陳嘉琳（Charlene Chen）的提問時說道。
陳傑豪指出，包括新加坡政府科技局（GovTech）在內的許多政府機構，已經在適當的保障措施下負責任地開展相關工作。
他補充道：「我鼓勵所有私營部門組織，即使是不運行關鍵信息基礎設施或基本數字服務的企業，在運營中部署AI智能體或系統時，也應採取適當的謹慎態度並承擔相應責任。」
政府正在研究如何調整並加強其框架和系統，以應對智能體和自主AI系統帶來的風險。陳傑豪強調，這些風險在某種程度上是現有挑戰的延伸，政府正通過內部能力建設和實驗來應對。
他解釋稱，智能體AI系統能夠執行具體操作、與外部系統交互並自主調整行為以減少人為監督，這既帶來了機遇，也帶來了風險。
他認為，現有的指南和法規（包括風險管理流程和監督機制）同樣適用於智能體AI系統。這包括堅持人類問責制、實施足夠的控制和護欄，以及加強網絡安全以保護AI智能體交互的系統。
此外，陳傑豪歡迎前沿AI公司在理解和管理其開發系統所產生的風險方面承擔更大責任，包括儘早識別新興能力與風險，並在廣泛部署前建立保障機制。
「如果這些系統或前沿模型的能力造成了傷害或對他產生影響，我們當然歡迎他們承擔責任並儘快糾正問題，」他表示。
全球性難題
前沿AI模型的安全使用已成為全球性議題，AI實驗室因「失控行為」面臨著日益嚴峻的審查。
近幾個月來，一系列由AI智能體引發的高調違規事件引發了行業廣泛擔憂，人們擔心無法控制目前正在開發的更強大的AI模型。
上周，OpenAI通知了100多家機構，告知其AI智能體涉及未經授權的活動。
本周二，OpenAI和Anthropic向澳大利亞議會表示，他們歡迎出台法律要求其報告由AI智能體造成的數據泄露，並承認目前通知當局的決定權在公司手中。此前，OpenAI在告知澳大利亞政府其智能體入侵該國主要健康門戶網站之前，拖延了數月之久，引發了強烈抗議。
本周二，數字發展與信息部長鄧亞萍（Josephine Teo）在議會書面回覆中表示，新加坡正在研究在高風險AI應用中是否需要新的安全措施，因為日益強大且自主的AI系統創造了現有保障措施可能無法完全解決的新風險。
她指出，在基本服務和其他高風險AI應用中，這些保障措施可能包括更嚴格的測試、可獨立驗證的安全措施有效性證據、更嚴格的部署控制以及更強的監管監督。
鄧亞萍還表示，到目前為止，尚未收到政府機構遭受未經監督的AI智能體網絡攻擊的報告。
但她補充說，政府既不否認「災難性甚至滅絕級」的AI風險，也不假設這些風險一定會發生。政府採取的方法是密切監測證據，構建理解先進AI系統的技術能力，並隨著證據的出現，在國際上協作採取措施應對嚴重風險。
上周，鄧亞萍還在社交媒體上分享稱，前沿AI公司建立的保障措施雖然重要，但不足以應對日益強大的系統所帶來的風險。
她警告稱，惡意用戶可能會濫用日益強大的AI來造成傷害，例如尋找計算機系統的漏洞、編寫惡意代碼、自動化網絡攻擊的部分環節，以及讓詐騙手段變得更具欺騙性。
