# AI Agent失控風險來襲？新加坡政府緊急啟動試點，誓要給人工智慧套上「緊箍咒」！

URL: https://www.shicheng.news/zh-hant/v/GrAWB
Published: 2026-10-07
Source: 獅城新聞

![AI Agent失控風險來襲？新加坡政府緊急啟動試點，誓要給人工智慧套上「緊箍咒」！](https://www.shicheng.news/images/image/1792/17924393.avif?0)





新加坡數字發展與信息部政務部長陳傑豪（Tan Kiat How）在周三（10月7日）表示，新加坡政府目前正在開展一系列試點和實驗，旨在探索如何以負責任的方式部署**智能體人工智慧（Agentic AI）**系統。

在回答議員關於AI模型安全要求的質詢時，他表示，面對日益具備自主能力的智能體AI系統，政府正在審查並加強現有的框架和體系，同時密切監測該新興領域的全球發展動態。

「我們正在開發超越現有框架和方法的能力。通過運行試點和實驗，我們旨在緊跟技術演進，並理解負責任地實施智能體系統需要具備哪些條件，」陳傑豪在回答議員陳嘉琳（Charlene Chen）的提問時說道。

陳傑豪指出，包括新加坡政府科技局（GovTech）在內的許多政府機構，已經在適當的保障措施下負責任地開展相關工作。

他補充道：「我鼓勵所有私營部門組織，即使是不運行關鍵信息基礎設施或基本數字服務的企業，在運營中部署AI智能體或系統時，也應採取適當的謹慎態度並承擔相應責任。」

政府正在研究如何調整並加強其框架和系統，以應對智能體和自主AI系統帶來的風險。陳傑豪強調，這些風險在某種程度上是現有挑戰的延伸，政府正通過內部能力建設和實驗來應對。

他解釋稱，**智能體AI系統**能夠執行具體操作、與外部系統交互並自主調整行為以減少人為監督，這既帶來了機遇，也帶來了風險。

他認為，現有的指南和法規（包括風險管理流程和監督機制）同樣適用於智能體AI系統。這包括堅持**人類問責制**、實施足夠的控制和護欄，以及加強網絡安全以保護AI智能體交互的系統。

此外，陳傑豪歡迎前沿AI公司在理解和管理其開發系統所產生的風險方面承擔更大責任，包括儘早識別新興能力與風險，並在廣泛部署前建立保障機制。

「如果這些系統或前沿模型的能力造成了傷害或對他產生影響，我們當然歡迎他們承擔責任並儘快糾正問題，」他表示。

## 全球性難題



前沿AI模型的安全使用已成為全球性議題，AI實驗室因「失控行為」面臨著日益嚴峻的審查。

近幾個月來，一系列由AI智能體引發的高調違規事件引發了行業廣泛擔憂，人們擔心無法控制目前正在開發的更強大的AI模型。

上周，OpenAI通知了100多家機構，告知其AI智能體涉及未經授權的活動。

本周二，OpenAI和Anthropic向澳大利亞議會表示，他們歡迎出台法律要求其報告由AI智能體造成的數據泄露，並承認目前通知當局的決定權在公司手中。此前，OpenAI在告知澳大利亞政府其智能體入侵該國主要健康門戶網站之前，拖延了數月之久，引發了強烈抗議。

本周二，數字發展與信息部長鄧亞萍（Josephine Teo）在議會書面回覆中表示，新加坡正在研究在高風險AI應用中是否需要新的安全措施，因為日益強大且自主的AI系統創造了現有保障措施可能無法完全解決的新風險。

她指出，在基本服務和其他高風險AI應用中，這些保障措施可能包括更嚴格的測試、可獨立驗證的安全措施有效性證據、更嚴格的部署控制以及更強的監管監督。

鄧亞萍還表示，到目前為止，尚未收到政府機構遭受未經監督的AI智能體網絡攻擊的報告。

但她補充說，政府既不否認「災難性甚至滅絕級」的AI風險，也不假設這些風險一定會發生。政府採取的方法是密切監測證據，構建理解先進AI系統的技術能力，並隨著證據的出現，在國際上協作採取措施應對嚴重風險。

上周，鄧亞萍還在社交媒體上分享稱，前沿AI公司建立的保障措施雖然重要，但不足以應對日益強大的系統所帶來的風險。

她警告稱，惡意用戶可能會濫用日益強大的AI來造成傷害，例如尋找計算機系統的漏洞、編寫惡意代碼、自動化網絡攻擊的部分環節，以及讓詐騙手段變得更具欺騙性。