新加坡正采取进一步行动，确保人工智能（AI）的发展不走偏。根据6月12日的联合公告，新加坡资讯通信媒体发展局（IMDA）与微软签署了一份新的谅解备忘录（MOU），旨在深化在AI安全与保障方面的合作。
此次合作背景是，各国政府和科技公司正面临一个日益严峻的挑战：AI系统的能力提升速度之快，几乎没有任何一个组织能独立应对。根据协议，IMDA与微软将在研究、信息共享和政策制定方面共同努力，目标是在鼓励创新的同时，降低强大AI工具带来的潜在风险。
随着AI能力增强，构建安全护栏刻不容缓
双方合作的一个核心重点是对AI安全进行技术研究。两家机构计划研究诸如智能体AI（Agentic AI）等新兴领域，在这种模式下，AI系统可以以更高的自主性执行任务。同时，他们将开发相关方法、工具和基准，以评估AI模型的行为及其是否符合安全标准。
这项工作还将探讨多语言AI安全，这对于新加坡这样一个多元化社会而言具有特殊意义。此外，该计划还旨在增强公众应对AI系统相关问题（包括虚假信息和其他安全隐患）的韧性。人们日益意识到，AI安全已上升为公共政策和国家安全问题。
知识共享与政策制定
除了研究，IMDA和微软还将就AI安全与保障相关的治理框架、研究结果和操作经验进行交流。
此次协作还将涉及新加坡AI安全研究所（Singapore AI Safety Institute）及其他政府机构。他们将共同探讨政府和关键基础设施运营商如何以负责任的方式访问和使用前沿AI模型。
预计这项工作将产出一份白皮书，探讨问题的双面性：一方面是政府和基础设施运营商对先进AI系统的需求，另一方面则是AI模型提供者应承担的责任。
在全球政策制定者试图在鼓励AI发展与防止滥用之间寻找平衡的当下，这一讨论显得尤为关键。
防止强大的AI系统将网络攻击“自动化”
先进的AI模型正变得让企业、组织和个人触手可及。虽然这创造了机遇，但也引发了担忧。
安全专家警告称，强大的AI系统可能会被用于自动化网络攻击、更高效地传播虚假信息或协助犯罪活动。新加坡此前已对这些风险发出警示。
近期，威胁行为者越来越多地利用前沿AI技术来强化网络攻击，其中电信行业被列为必须保持高度警惕的重点领域。
在这种背景下，IMDA与微软的伙伴关系可以被视为一种前瞻性部署，旨在威胁变得难以管控之前做好准备。
新加坡在AI治理中扮演的日益重要的角色
此次合作进一步强化了新加坡在负责任AI发展国际讨论中的地位。IMDA副首席执行官 Kiren Kumar 表示，此次协作不仅限于政策讨论，还将涉及构建实际的工具、基准和评估方法，以提升对先进AI系统的评估能力。
与此同时，微软首席负责任AI官 Natasha Crampton 表示，新加坡正在帮助塑造关于负责任AI的全球对话。她指出，将政府的专业知识与微软的操作经验相结合，有助于改进AI评估方法，应对新兴风险，并增强对先进AI系统的信心。
IMDA和微软表示，其最终目标是创造一个既能持续创新，又不牺牲安全性和可靠性的环境。
对于新加坡而言，这种平衡之举可能是未来十年最具定义性的技术挑战之一。AI在飞速进步，但公众的信心取决于安全护栏能否跟上脚步。在问题出现之前尽早构建护栏，远比事后补救要容易得多。
