# AI Agent失控风险来袭？新加坡政府紧急启动试点，誓要给人工智能套上“紧箍咒”！

URL: https://www.shicheng.news/v/GrAWB
Published: 2026-10-07
Source: 狮城新闻

![AI Agent失控风险来袭？新加坡政府紧急启动试点，誓要给人工智能套上“紧箍咒”！](https://www.shicheng.news/images/image/1792/17924393.avif?0)





新加坡数字发展与信息部政务部长陈杰豪（Tan Kiat How）在周三（10月7日）表示，新加坡政府目前正在开展一系列试点和实验，旨在探索如何以负责任的方式部署**智能体人工智能（Agentic AI）**系统。

在回答议员关于AI模型安全要求的质询时，他表示，面对日益具备自主能力的智能体AI系统，政府正在审查并加强现有的框架和体系，同时密切监测该新兴领域的全球发展动态。

“我们正在开发超越现有框架和方法的能力。通过运行试点和实验，我们旨在紧跟技术演进，并理解负责任地实施智能体系统需要具备哪些条件，”陈杰豪在回答议员陈嘉琳（Charlene Chen）的提问时说道。

陈杰豪指出，包括新加坡政府科技局（GovTech）在内的许多政府机构，已经在适当的保障措施下负责任地开展相关工作。

他补充道：“我鼓励所有私营部门组织，即使是不运行关键信息基础设施或基本数字服务的企业，在运营中部署AI智能体或系统时，也应采取适当的谨慎态度并承担相应责任。”

政府正在研究如何调整并加强其框架和系统，以应对智能体和自主AI系统带来的风险。陈杰豪强调，这些风险在某种程度上是现有挑战的延伸，政府正通过内部能力建设和实验来应对。

他解释称，**智能体AI系统**能够执行具体操作、与外部系统交互并自主调整行为以减少人为监督，这既带来了机遇，也带来了风险。

他认为，现有的指南和法规（包括风险管理流程和监督机制）同样适用于智能体AI系统。这包括坚持**人类问责制**、实施足够的控制和护栏，以及加强网络安全以保护AI智能体交互的系统。

此外，陈杰豪欢迎前沿AI公司在理解和管理其开发系统所产生的风险方面承担更大责任，包括尽早识别新兴能力与风险，并在广泛部署前建立保障机制。

“如果这些系统或前沿模型的能力造成了伤害或对他产生影响，我们当然欢迎他们承担责任并尽快纠正问题，”他表示。

## 全球性难题



前沿AI模型的安全使用已成为全球性议题，AI实验室因“失控行为”面临着日益严峻的审查。

近几个月来，一系列由AI智能体引发的高调违规事件引发了行业广泛担忧，人们担心无法控制目前正在开发的更强大的AI模型。

上周，OpenAI通知了100多家机构，告知其AI智能体涉及未经授权的活动。

本周二，OpenAI和Anthropic向澳大利亚议会表示，他们欢迎出台法律要求其报告由AI智能体造成的数据泄露，并承认目前通知当局的决定权在公司手中。此前，OpenAI在告知澳大利亚政府其智能体入侵该国主要健康门户网站之前，拖延了数月之久，引发了强烈抗议。

本周二，数字发展与信息部长邓亚萍（Josephine Teo）在议会书面回复中表示，新加坡正在研究在高风险AI应用中是否需要新的安全措施，因为日益强大且自主的AI系统创造了现有保障措施可能无法完全解决的新风险。

她指出，在基本服务和其他高风险AI应用中，这些保障措施可能包括更严格的测试、可独立验证的安全措施有效性证据、更严格的部署控制以及更强的监管监督。

邓亚萍还表示，到目前为止，尚未收到政府机构遭受未经监督的AI智能体网络攻击的报告。

但她补充说，政府既不否认“灾难性甚至灭绝级”的AI风险，也不假设这些风险一定会发生。政府采取的方法是密切监测证据，构建理解先进AI系统的技术能力，并随着证据的出现，在国际上协作采取措施应对严重风险。

上周，邓亚萍还在社交媒体上分享称，前沿AI公司建立的保障措施虽然重要，但不足以应对日益强大的系统所带来的风险。

她警告称，恶意用户可能会滥用日益强大的AI来造成伤害，例如寻找计算机系统的漏洞、编写恶意代码、自动化网络攻击的部分环节，以及让诈骗手段变得更具欺骗性。