新加坡：随着人工智能系统变得越来越强大且具有自主性，现有的安全防护措施可能无法完全应对新出现的风险。为此，新加坡目前正在研究是否需要针对高风险的AI应用采取新的安全措施。
数字发展与信息部部长赵乃雁（Josephine Teo）在周二（10月6日）的一份议会书面答复中表示，在关键服务和其他高风险AI应用领域，这些安全措施可能包括更严格的测试、可独立验证的安全措施有效性证据、更严密的部署控制以及更强有力的监管审查。
她补充说，新加坡将继续推动AI创新，同时采取“基于风险且多层次”的方法，即根据风险等级设定AI部署的限制。
赵乃雁举例称，在公共服务领域部署AI代理之前，政府会仔细考虑该系统可以访问哪些数据、被允许执行哪些操作，以及在发生意外或未经授权的操作时会产生什么后果。
她指出，新加坡采取的策略是刻意限制AI代理的功能，并预设恶意行为者会利用AI以更低成本、更快速且更大规模地制造危害。
她同时提到，到目前为止，尚未收到任何涉及无监督AI代理攻击政府机构的网络攻击报告。
赵乃雁表示，新加坡网络安全局（CSA）和政府科技局（GovTech）正利用AI来增强政府系统和关键信息基础设施的安全性，其中包括更快速地识别漏洞和潜在威胁。
此外，CSA还加强了关键信息基础设施运营商的网络安全要求，分享关于活跃威胁的情报以便其采取预防措施，并提供了加强网络防御和保障AI系统安全的实用指南。
政府目前还在研究如何更好地利用现有的网络事件报告渠道（通过CSA、GovTech和行业主管），以识别涉及AI的事件，支持修复工作并改进防护措施。同时，政府也在评估是否需要进一步的协调或报告机制。
赵乃雁坦言，政府既没有忽视“灾难性甚至灭绝级”的AI风险，也没有假设这些风险一定会发生。
新加坡的应对方式是密切监测证据，构建理解先进AI系统的技术能力，并随着证据的增加，在国际层面协作采取措施应对严重风险。
为此，国家AI委员会负责为国家应对AI风险的整体方案提供战略方向。近期，新加坡还支持了由20多位世界领导人发起的国际呼吁，要求针对前沿AI建立更强的安全保障。
赵乃雁表示，政府在适当的情况下会与前沿AI开发商接触，以获取信息并访问其模型。
“我们目前并未将其设为强制要求，因为仅凭访问模型本身并不一定能全面了解风险，”她说道。
“如果强制要求导致公司限制合作或信息共享，反而可能产生反作用。因此，我们更倾向于与前沿AI实验室建立强大的协作关系，鼓励实质性且及时的信息共享。”
赵乃雁最后强调，随着AI越来越能够代表人类采取行动，必须相应地引入更稳健的安全保障，并增强理解新兴风险和应对问题的能力。
“这将有助于建立公众对AI作为一项服务于公共利益的技术的信任。”
