新加坡資訊通信媒體發展局於6月12日發文告宣布，已與美國科技公司微軟簽署諒解備忘錄，加強雙方在人工智慧安全與保安方面的合作。
雙方將圍繞三大領域展開合作，包括進行AI安全與保安技術研究、分享相關知識與經驗，以及研究前沿AI模型的信賴使用框架。根據文告，新加坡資媒局、新加坡人工智慧安全研究所和微軟，將聯同其他政府機構，探討政府部門和基礎設施運營者應如何在負責任的情況下獲取和使用前沿AI模型，以進行安全測試和風險評估。它們也將共同撰寫白皮書，研究政府機構和基礎設施運營者的需求，以及模型開發商應考慮的政策安排。
前沿AI模型被視為人工智慧發展的下一階段。這類模型能進行複雜推理和自主執行任務，但隨著能力增強，其中的潛在安全和濫用風險也備受關注。今年4月，新加坡網絡安全局便發文警示，一些前沿AI模型可更快找出系統漏洞，卻也可能被不法分子用來發動網絡攻擊，因此提醒本地企業和機構應及早加強防護，降低相關風險。
資媒局和微軟也將研究具備自主執行任務能力的「代理式AI」，並開發用於評估AI模型的測試方法、工具和基準，包括多語言AI安全評估。雙方也會探討如何提升社會應對AI風險和虛假信息等信任與安全挑戰的能力。資媒局副局長Kiren Kumar在文告中說，這項合作展示政府與業界如何攜手推動AI治理，不僅制定政策框架，也共同開發評估工具和基準，推進AI安全評估科學的發展。微軟負責AI安全與治理事務的主管Natasha Crampton則表示，新加坡正積極參與全球AI安全治理討論，雙方合作將結合政府視角和微軟的技術經驗，加強AI評估能力、應對新興風險，並提升公眾對先進AI系統的信任。
