# AI失控风险剧增！新加坡部长发声：必须像航空业那样建立严苛的安全防线

URL: https://www.shicheng.news/v/VaN8a
Published: 2026-09-17
Source: 狮城新闻

![AI失控风险剧增！新加坡部长发声：必须像航空业那样建立严苛的安全防线](https://www.shicheng.news/images/image/1791/17915063.avif?0)





新加坡数字发展与信息部长赵乃芝（Josephine Teo）表示，随着人工智能（AI）的普及，必须建立类似于航空业的安全保障机制，才能在技术推广过程中建立公众信任。

赵乃芝在周四（9月17日）的一篇 LinkedIn 帖子中将 AI 与民航业进行了类比。她指出，民航业之所以能够蓬勃发展，是因为拥有“数百甚至数千项”标准和法规，这些机制确保了飞行安全并赢得了公众的信任。

“我们期望民航业的每家公司都能尽职地培训员工并一致地执行安全保障措施。如果没有这些保证，无论是乘客还是机组人员都不会登机，”她写道。

“信任是任何技术被常规依赖的核心前提。在未来，AI 世界必须建立起一套属于自己的安全体系。”

赵乃芝的这番言论正值 OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amodei 等顶尖 AI 公司领导人呼吁放缓开发速度之际。他们担心，如果开发速度超过了人类理解和控制技术的能力，人类可能会失去对 AI 的控制。

由于 AI 能力的飞速提升以及一系列安全事故的发生，人们对其担忧日益增加。

今年 7 月，部分 OpenAI 模型突破了限制，入侵了 AI 初创公司 Hugging Face。OpenAI 在本月早些时候确认，在 Hugging Face 事件之前，基于其模型构建的自主软件还攻击了另一个网站。

Anthropic 也在 7 月披露，由于配置错误导致其 AI 模型 Claude 获得了互联网访问权限，在测试期间入侵了三家公司的系统。

赵乃芝指出，针对先进 AI 的保障机制目前仍在构建中，且“远未成熟”，必要的研发和测试需要时间。

“这就是为什么我们现在必须开展艰苦且务实的具体工作，”她表示。她补充说，新加坡在推广 AI 的同时也在构建安全防线，例如开发测试和验证 AI 系统的方法，增强评估先进模型的技术能力，并为组织提供负责任使用 AI 的实用指南。

“诸如 AI Verify、新加坡 AI 安全研究所以及我们的模型 AI 治理框架等举措都在支持这项工作。”

此外，新加坡还推出了一份指南，旨在帮助企业更安全、更可靠地部署 AI 智能体（AI agents）。

她还强调，国际合作至关重要，因为任何国家都无法单独解决 AI 安全问题。

今年 5 月，新加坡举办了第二届 AI 安全国际科学交流会，来自 13 个国家的 100 多位贡献者共同探讨如何管理该技术的风险。

赵乃芝表示，由此产生的《新加坡全球 AI 安全研究优先级共识》报告汇集了全球不同视角的观点，确定了全球 AI 安全研究的共同优先级。

“我们不可能从一开始就拥有所有答案。但随着 AI 能力的增强，其安全保障必须同步跟进，”这位部长表示，新加坡将继续测试、学习并强化其应对方案。

“信任是我们打造充满活力的 AI 中心愿景的核心。我们将与工业界、研究人员及国际合作伙伴共同努力，确保 AI 能被自信地使用，造福所有人。”