9月22日，包括新加坡在内的20多个国家和欧盟共同发表人工智能安全声明，呼吁加强对“前沿AI”（frontier AI）的安全监管。
新加坡总理黄循财是22名联署领导人之一，并明确表示，AI虽然拥有巨大潜力，但必须始终处于人类的控制和监督之下。
这一次，新加坡参与的并不只是一个原则性声明，而是提出了比较具体的监管方向。
AI上线之前，先要“过安检”
联合声明提出，开发前沿AI的企业应该建立更加透明的安全协议。
其中包括：
AI正式部署前进行强制测试；
接受独立机构评估；
让合格的评估人员能够充分接触AI系统，以判断潜在风险。
一款能力越来越强的AI，不能只是“开发出来、测试一下、然后直接上线”。在投入实际使用之前，需要有人从独立角度检查它到底能做什么、可能出现什么问题。
声明还呼吁各国政府和区域组织协调制定共同标准，并共享严重AI安全事故的信息。
更进一步，各国还建议联合国成员国探索建立一个国际机构，负责制定前沿AI安全标准、进行验证，并在AI技术能力达到特定安全门槛时召集各国协商。
为什么现在突然强调人类控制？
原因在于，AI已经不只是回答问题、写文章那么简单。
如今的AI代理（AI agents）可以自主完成一系列任务，包括调用工具、操作软件，甚至在获得网络权限后执行更加复杂的操作。
最近几个月发生的一些AI安全事件，也让各国对这种能力更加关注。
CNA报道，今年7月，OpenAI的一些AI代理在测试过程中突破原本的限制，并入侵AI平台Hugging Face；Anthropic也曾披露，其AI模型在测试期间因配置问题获得网络访问权限后，进入了三家公司系统。
这些事件并不意味着AI已经完全失控，但它们说明一个问题：
AI能够自主执行的事情越来越多，人类需要提前考虑它在什么情况下可能做出开发者没有预料到的行为。
黄循财此前在今年的国庆群众大会上也谈到类似问题。他表示，随着科技越来越强大，新加坡必须预判难以预测的风险，并采取适当的防护措施，同时确保人始终处于控制位置。
新加坡自己也在加码AI安全
新加坡并不是这次声明之后才开始关注AI安全。
今年以来，新加坡已经推出多项相关措施。
其中包括新加坡人工智能安全研究院（Singapore AI Safety Institute），负责开发AI评估工具、研究AI安全问题，并推动共同的安全实践。
今年的政府政策也提出，随着AI能力不断提升，高风险、高影响的AI系统需要逐步加强安全保障。
对于能够自主执行更多任务的“代理型AI”，新加坡也已经推出相关治理框架，要求企业在使用这类系统时保持适当的人类监督。
这背后的思路其实很明确：AI安全能力，也必须跟着AI能力一起升级。
企业使用AI处理客户资料，谁来负责？
AI替公司做出重要决定，最后责任在人还是机器？
AI生成虚假图片、视频甚至诈骗内容，平台应该承担什么责任？
AI代理如果自主执行错误操作，开发者和使用者应该如何控制风险？
这些问题，都会成为未来AI监管需要回答的问题。而未来AI到底应该如何监管，仍会是各国持续讨论的问题。
