新加坡：新加坡资讯通信媒体发展局（IMDA）与微软已签署一项谅解备忘录，旨在深化在人工智能（AI）安全与保障方面的合作，双方将共同应对AI技术飞速发展所带来的日益增长的风险。
IMDA与微软在周五（6月12日）发布的联合新闻稿中表示：“此次合作体现了两家机构的共同承诺，即确保AI的发展保持安全、可靠且值得信赖。”
双方将重点在三个关键领域开展合作：研究、信息共享以及政策制定。
IMDA与微软将针对AI安全进行技术研究，包括对智能体AI（Agentic AI）的研究，以及开发AI模型的评估方法、工具和基准。这其中涵盖了对多语言AI安全的关注，以及旨在增强社会韧性，以应对AI系统带来的信任与安全挑战的广泛努力。
此外，IMDA与微软还将就AI安全与保障方面的知识、最佳实践、治理框架及研究结果进行交流。
同时，IMDA、新加坡AI安全研究所与微软将共同探索一套政策框架，研究政府和基础设施运营商应如何以负责任的方式构建对前沿AI模型（Frontier AI models）的访问机制。
这项工作将涉及新加坡其他政府部门，预计最终将形成一份白皮书，探讨需求端（如政府机构和基础设施运营商）的需求以及供应端（模型提供商）的政策考量。
此次协议签署的背景是，国际社会对功能日益强大的AI模型可能被滥用的担忧正与日俱增。
这些所谓的“前沿AI系统”正变得越来越强大且易于获取，从而增加了自动化网络攻击、大规模虚假信息传播以及被犯罪分子利用等风险。
包括新加坡在内的全球政策制定者已发出警告，此类技术可能会降低复杂网络操作的门槛，并加速数字威胁的演进速度与规模。
新加坡国家安全统筹部长尚穆加姆（K Shanmugam）近期警告称，威胁行为者正越来越多地利用前沿AI来强化其攻击手段。
他指出，电信行业“尤为关键”，并敦促相关企业提升其网络安全防御水平。
IMDA与微软在周五表示，由于AI的演进速度已经超过了任何单一机构能够独立管理的范围，因此此次合作至关重要。
他们指出，此次协作反映了新加坡的整体战略，即在支持创新的同时，通过与产业界合作来推进AI安全。
“最终目标是建立一个可信的生态系统，在促进创新的同时，确保AI的开发与部署安全可靠，”IMDA与微软表示。
IMDA副首席执行官Kiren Kumar表示，此次合作展示了政府与产业界如何共同推动有效的AI治理。
他认为：“这不仅仅是制定政策框架，更是共同构建基准、工具和其他评估方法，在这一日益重要的领域切实推进评估科学的发展。”
微软首席负责任AI官Natasha Crampton则表示，新加坡在全球关于负责任AI的讨论中发挥着关键作用。
“通过与IMDA的合作，我们可以将政府的洞察力与微软的技术及运营经验相结合，从而强化AI评估，应对新兴风险，并增强对先进AI系统的信任，”她说道。
