新加坡宣布推出新人工智慧安全倡議，以增強新加坡和全球人工智慧的安全。
數碼發展及新聞部長楊莉明前天（10日）和昨天（11日）在法國出席了人工智慧行動峰會（AI Action Summit，簡稱AIAS），並宣布了這些倡議。
三項新倡議包括全球人工智慧保障試點計劃（Global AI Assurance Pilot）、與日本的聯合測試報告，以及發布新加坡人工智慧安全「紅隊測試」（red teaming）評估報告。
針對這三項新舉措，數碼發展及新聞部長楊莉明表示：「為了充分發揮人工智慧造福社會的潛力，新加坡認為，我們必須首先全面理解人們對人工智慧的不信任之處。例如系統中的偏見和失去控制的感覺；並找到公正且嚴格的方式來測試人工智慧系統，以確保其更安全和更負責任。」
一、人工智慧保障試點計劃
由人工智慧驗證基金會（AI Verify Foundation）和資訊通信媒體發展局（IMDA）發起的人工智慧保障試點計劃，是圍繞生成式人工智慧（GenAI）應用程式的試驗。
試點計劃將召集領先的人工智慧保障和測試供應商，以及正在部署實際生成式人工智慧應用程式的公司。計劃將塑造未來的人工智慧保障標準和未來的保障服務、發展本地和國際第三方人工智慧保障市場，並為人工智慧治理框架提供實用的建議。
二、聯合測試報告
另外，我國與日本在人工智慧行動峰會網絡下推出聯合測試報告，主要是通過評估非英語環境中是否有防護欄，使大型語言模型（Large language model）在不同語言環境中更加安全。
由於目前以英語為中心的培訓和測試可能會在非英語保障方面留下缺口，聯合測試活動將擴大全球努力，使模型在不同語言環境中更加安全。
三、人工智慧安全「紅隊測試」評估報告
最後，新加坡人工智慧安全「紅隊測試」評估報告，可以方便我國了解大型語言模型在不同語言方面的表現和亞太地區的文化，以及這些保障措施在這些情境中的有效性。
楊莉明也說，人工智慧正在重塑我們的世界，新加坡看到了為人工智慧安全和治理做出貢獻的機會。
「我們致力於與行業、學術界和社區建立強有力的全球夥伴關係，以實現為新加坡和世界的公共利益服務的人工智慧。」
