# AI失控风险剧增！新加坡政府联手微软出手，要给人工智能套上“安全枷锁”

URL: https://www.shicheng.news/v/KrgVY
Published: 2026-06-12
Source: 狮城新闻

![AI失控风险剧增！新加坡政府联手微软出手，要给人工智能套上“安全枷锁”](https://www.shicheng.news/images/image/1786/17868967.avif?0)





新加坡：新加坡资讯通信媒体发展局（IMDA）与微软已签署一项谅解备忘录，旨在深化在人工智能（AI）安全与保障方面的合作，双方将共同应对AI技术飞速发展所带来的日益增长的风险。

IMDA与微软在周五（6月12日）发布的联合新闻稿中表示：“此次合作体现了两家机构的共同承诺，即确保AI的发展保持安全、可靠且值得信赖。”

双方将重点在三个关键领域开展合作：**研究、信息共享以及政策制定**。

IMDA与微软将针对AI安全进行技术研究，包括对**智能体AI（Agentic AI）**的研究，以及开发AI模型的评估方法、工具和基准。这其中涵盖了对多语言AI安全的关注，以及旨在增强社会韧性，以应对AI系统带来的信任与安全挑战的广泛努力。

此外，IMDA与微软还将就AI安全与保障方面的知识、最佳实践、治理框架及研究结果进行交流。

同时，IMDA、新加坡AI安全研究所与微软将共同探索一套政策框架，研究政府和基础设施运营商应如何以负责任的方式构建对**前沿AI模型（Frontier AI models）**的访问机制。

这项工作将涉及新加坡其他政府部门，预计最终将形成一份白皮书，探讨需求端（如政府机构和基础设施运营商）的需求以及供应端（模型提供商）的政策考量。

此次协议签署的背景是，国际社会对功能日益强大的AI模型可能被滥用的担忧正与日俱增。

这些所谓的“前沿AI系统”正变得越来越强大且易于获取，从而增加了**自动化网络攻击、大规模虚假信息传播以及被犯罪分子利用**等风险。

包括新加坡在内的全球政策制定者已发出警告，此类技术可能会降低复杂网络操作的门槛，并加速数字威胁的演进速度与规模。

新加坡国家安全统筹部长尚穆加姆（K Shanmugam）近期警告称，威胁行为者正越来越多地利用前沿AI来强化其攻击手段。

他指出，电信行业“尤为关键”，并敦促相关企业提升其网络安全防御水平。

IMDA与微软在周五表示，由于AI的演进速度已经超过了任何单一机构能够独立管理的范围，因此此次合作至关重要。

他们指出，此次协作反映了新加坡的整体战略，即在支持创新的同时，通过与产业界合作来推进AI安全。

“最终目标是建立一个可信的生态系统，在促进创新的同时，确保AI的开发与部署安全可靠，”IMDA与微软表示。

IMDA副首席执行官Kiren Kumar表示，此次合作展示了政府与产业界如何共同推动有效的AI治理。

他认为：“这不仅仅是制定政策框架，更是共同构建基准、工具和其他评估方法，在这一日益重要的领域切实推进评估科学的发展。”

微软首席负责任AI官Natasha Crampton则表示，新加坡在全球关于负责任AI的讨论中发挥着关键作用。

“通过与IMDA的合作，我们可以将政府的洞察力与微软的技术及运营经验相结合，从而强化AI评估，应对新兴风险，并增强对先进AI系统的信任，”她说道。