生活 · 约 3 分钟阅读

新加坡总理黄循财罕见联署警告:AI必须始终在人类控制之下

2026/09/29
直接阅读正文 ↓

9月22日,包括新加坡在内的20多个国家和欧盟共同发表人工智能安全声明,呼吁加强对“前沿AI”(frontier AI)的安全监管。

新加坡总理黄循财是22名联署领导人之一,并明确表示,AI虽然拥有巨大潜力,但必须始终处于人类的控制和监督之下。

这一次,新加坡参与的并不只是一个原则性声明,而是提出了比较具体的监管方向。

AI上线之前,先要“过安检”

联合声明提出,开发前沿AI的企业应该建立更加透明的安全协议。

其中包括:

AI正式部署前进行强制测试;

接受独立机构评估;

让合格的评估人员能够充分接触AI系统,以判断潜在风险。

一款能力越来越强的AI,不能只是“开发出来、测试一下、然后直接上线”。在投入实际使用之前,需要有人从独立角度检查它到底能做什么、可能出现什么问题。

声明还呼吁各国政府和区域组织协调制定共同标准,并共享严重AI安全事故的信息。

更进一步,各国还建议联合国成员国探索建立一个国际机构,负责制定前沿AI安全标准、进行验证,并在AI技术能力达到特定安全门槛时召集各国协商。

为什么现在突然强调人类控制?

原因在于,AI已经不只是回答问题、写文章那么简单。

如今的AI代理(AI agents)可以自主完成一系列任务,包括调用工具、操作软件,甚至在获得网络权限后执行更加复杂的操作。

最近几个月发生的一些AI安全事件,也让各国对这种能力更加关注。

CNA报道,今年7月,OpenAI的一些AI代理在测试过程中突破原本的限制,并入侵AI平台Hugging Face;Anthropic也曾披露,其AI模型在测试期间因配置问题获得网络访问权限后,进入了三家公司系统。

这些事件并不意味着AI已经完全失控,但它们说明一个问题:

AI能够自主执行的事情越来越多,人类需要提前考虑它在什么情况下可能做出开发者没有预料到的行为。

黄循财此前在今年的国庆群众大会上也谈到类似问题。他表示,随着科技越来越强大,新加坡必须预判难以预测的风险,并采取适当的防护措施,同时确保人始终处于控制位置。

/www/orgs.pro/web/images/image/1791/17919706.avif

新加坡自己也在加码AI安全

新加坡并不是这次声明之后才开始关注AI安全。

今年以来,新加坡已经推出多项相关措施。

其中包括新加坡人工智能安全研究院(Singapore AI Safety Institute),负责开发AI评估工具、研究AI安全问题,并推动共同的安全实践。

今年的政府政策也提出,随着AI能力不断提升,高风险、高影响的AI系统需要逐步加强安全保障。

对于能够自主执行更多任务的“代理型AI”,新加坡也已经推出相关治理框架,要求企业在使用这类系统时保持适当的人类监督。

这背后的思路其实很明确:AI安全能力,也必须跟着AI能力一起升级。

企业使用AI处理客户资料,谁来负责?

AI替公司做出重要决定,最后责任在人还是机器?

AI生成虚假图片、视频甚至诈骗内容,平台应该承担什么责任?

AI代理如果自主执行错误操作,开发者和使用者应该如何控制风险?

这些问题,都会成为未来AI监管需要回答的问题。而未来AI到底应该如何监管,仍会是各国持续讨论的问题。

及时获取本站更新:

设为 Google 偏好来源

继续阅读

新闻

黄循财宣布新方向!新加坡政府将加速拥抱AI

社会

美国芯片禁令升级!新加坡紧急表态:全力确保AI基础设施的“信任访问”

社会

新加坡如何在全球财富大洗牌中突围?信任与AI创新成关键,前外长叶聪意发出预警!

新闻

2026新加坡金融科技节亮点抢先看!颜金勇对话、OpenAI董事会主席亮相、蚂蚁腾讯同台…

社会

新加坡总理黄循财发声:2027年将主导东盟,打造单一市场,抢占数字与能源新高地!

新闻

【桃色风暴间谍疑云】受黄仁勋丑闻拖累 新加坡寻求“可信任通路”取得AI芯片

社会

美国芯片禁令升级!新加坡被列入管控名单,背后竟牵扯出英伟达CEO的惊人传闻?

新闻

应用得宜,AI能制广告、促交易,成新加坡中小企业全能助手

社会

法律和警察也救不了!新加坡资深部长警告:没有良好治理,社会动荡不可避免

新闻

黄循财呼吁东盟国加强合作 防跨境烟霾污染问题重演

生活

NTU数学系教授创办AI公司:数据全程加密,模型告别黑盒

新闻

新加坡金融科技节即将开幕!AI、跨境支付、数字资产,下一个行业风口来了

新闻

新加坡拟推社媒年龄分级新规:13岁以下禁用,13至岁到17岁默认限制功能

社会

全球首家!新加坡传染病局获WHO认证,面对四大健康危机,我们该如何自救?

生活

新加坡ICA新措施来了!申请PR、开车跨境都要注意了!

生活

NTU获700万新元联合研究资助!携手嘉楠推进绿色计算与边缘人工智能

新闻

黄仁勋正在考虑复职!新加坡亿万富豪:没有老黄,不会再有进一步投资

新闻

注意!新加坡网上出现“抗衰老神奇针”!卫科局警告:相关产品未经批准!

新闻

全球第一个!世卫把这件事交给了新加坡

生活

NUS教授警示新加坡高温挑战:降温之外,更要守住日常生活与社区连接

新闻

新加坡严惩烧芭企业!新加坡提议东盟联手反击跨境烟霾

新闻

黄总理:数码经济框架协定签署只是第一步 吁东盟扩大跨境支付网络

新闻

专家:人工智能科技进步 可带来新风险和挑战

新闻

入境新国当阿窿跑腿 大马男子追债被控