新加坡正採取進一步行動，確保人工智慧（AI）的發展不走偏。根據6月12日的聯合公告，新加坡資訊通信媒體發展局（IMDA）與微軟簽署了一份新的諒解備忘錄（MOU），旨在深化在AI安全與保障方面的合作。
此次合作背景是，各國政府和科技公司正面臨一個日益嚴峻的挑戰：AI系統的能力提升速度之快，幾乎沒有任何一個組織能獨立應對。根據協議，IMDA與微軟將在研究、信息共享和政策制定方面共同努力，目標是在鼓勵創新的同時，降低強大AI工具帶來的潛在風險。
隨著AI能力增強，構建安全護欄刻不容緩
雙方合作的一個核心重點是對AI安全進行技術研究。兩家機構計劃研究諸如智能體AI（Agentic AI）等新興領域，在這種模式下，AI系統可以以更高的自主性執行任務。同時，他們將開發相關方法、工具和基準，以評估AI模型的行為及其是否符合安全標準。
這項工作還將探討多語言AI安全，這對於新加坡這樣一個多元化社會而言具有特殊意義。此外，該計劃還旨在增強公眾應對AI系統相關問題（包括虛假信息和其他安全隱患）的韌性。人們日益意識到，AI安全已上升為公共政策和國家安全問題。
知識共享與政策制定
除了研究，IMDA和微軟還將就AI安全與保障相關的治理框架、研究結果和操作經驗進行交流。
此次協作還將涉及新加坡AI安全研究所（Singapore AI Safety Institute）及其他政府機構。他們將共同探討政府和關鍵基礎設施運營商如何以負責任的方式訪問和使用前沿AI模型。
預計這項工作將產出一份白皮書，探討問題的雙面性：一方面是政府和基礎設施運營商對先進AI系統的需求，另一方面則是AI模型提供者應承擔的責任。
在全球政策制定者試圖在鼓勵AI發展與防止濫用之間尋找平衡的當下，這一討論顯得尤為關鍵。
防止強大的AI系統將網絡攻擊「自動化」
先進的AI模型正變得讓企業、組織和個人觸手可及。雖然這創造了機遇，但也引發了擔憂。
安全專家警告稱，強大的AI系統可能會被用於自動化網絡攻擊、更高效地傳播虛假信息或協助犯罪活動。新加坡此前已對這些風險發出警示。
近期，威脅行為者越來越多地利用前沿AI技術來強化網絡攻擊，其中電信行業被列為必須保持高度警惕的重點領域。
在這種背景下，IMDA與微軟的夥伴關係可以被視為一種前瞻性部署，旨在威脅變得難以管控之前做好準備。
新加坡在AI治理中扮演的日益重要的角色
此次合作進一步強化了新加坡在負責任AI發展國際討論中的地位。IMDA副執行長 Kiren Kumar 表示，此次協作不僅限於政策討論，還將涉及構建實際的工具、基準和評估方法，以提升對先進AI系統的評估能力。
與此同時，微軟首席負責任AI官 Natasha Crampton 表示，新加坡正在幫助塑造關於負責任AI的全球對話。她指出，將政府的專業知識與微軟的操作經驗相結合，有助於改進AI評估方法，應對新興風險，並增強對先進AI系統的信心。
IMDA和微軟表示，其最終目標是創造一個既能持續創新，又不犧牲安全性和可靠性的環境。
對於新加坡而言，這種平衡之舉可能是未來十年最具定義性的技術挑戰之一。AI在飛速進步，但公眾的信心取決於安全護欄能否跟上腳步。在問題出現之前儘早構建護欄，遠比事後補救要容易得多。
