# AI失控風險劇增！新加坡政府聯手微軟出手，要給人工智慧套上「安全枷鎖」

URL: https://www.shicheng.news/zh-hant/v/KrgVY
Published: 2026-06-12
Source: 獅城新聞

![AI失控風險劇增！新加坡政府聯手微軟出手，要給人工智慧套上「安全枷鎖」](https://www.shicheng.news/images/image/1786/17868967.avif?0)





新加坡：新加坡資訊通信媒體發展局（IMDA）與微軟已簽署一項諒解備忘錄，旨在深化在人工智慧（AI）安全與保障方面的合作，雙方將共同應對AI技術飛速發展所帶來的日益增長的風險。

IMDA與微軟在周五（6月12日）發布的聯合新聞稿中表示：「此次合作體現了兩家機構的共同承諾，即確保AI的發展保持安全、可靠且值得信賴。」

雙方將重點在三個關鍵領域開展合作：**研究、信息共享以及政策制定**。

IMDA與微軟將針對AI安全進行技術研究，包括對**智能體AI（Agentic AI）**的研究，以及開發AI模型的評估方法、工具和基準。這其中涵蓋了對多語言AI安全的關注，以及旨在增強社會韌性，以應對AI系統帶來的信任與安全挑戰的廣泛努力。

此外，IMDA與微軟還將就AI安全與保障方面的知識、最佳實踐、治理框架及研究結果進行交流。

同時，IMDA、新加坡AI安全研究所與微軟將共同探索一套政策框架，研究政府和基礎設施運營商應如何以負責任的方式構建對**前沿AI模型（Frontier AI models）**的訪問機制。

這項工作將涉及新加坡其他政府部門，預計最終將形成一份白皮書，探討需求端（如政府機構和基礎設施運營商）的需求以及供應端（模型提供商）的政策考量。

此次協議簽署的背景是，國際社會對功能日益強大的AI模型可能被濫用的擔憂正與日俱增。

這些所謂的「前沿AI系統」正變得越來越強大且易於獲取，從而增加了**自動化網絡攻擊、大規模虛假信息傳播以及被犯罪分子利用**等風險。

包括新加坡在內的全球政策制定者已發出警告，此類技術可能會降低複雜網絡操作的門檻，並加速數字威脅的演進速度與規模。

新加坡國家安全統籌部長尚穆加姆（K Shanmugam）近期警告稱，威脅行為者正越來越多地利用前沿AI來強化其攻擊手段。

他指出，電信行業「尤為關鍵」，並敦促相關企業提升其網絡安全防禦水平。

IMDA與微軟在周五表示，由於AI的演進速度已經超過了任何單一機構能夠獨立管理的範圍，因此此次合作至關重要。

他們指出，此次協作反映了新加坡的整體戰略，即在支持創新的同時，通過與產業界合作來推進AI安全。

「最終目標是建立一個可信的生態系統，在促進創新的同時，確保AI的開發與部署安全可靠，」IMDA與微軟表示。

IMDA副執行長Kiren Kumar表示，此次合作展示了政府與產業界如何共同推動有效的AI治理。

他認為：「這不僅僅是制定政策框架，更是共同構建基準、工具和其他評估方法，在這一日益重要的領域切實推進評估科學的發展。」

微軟首席負責任AI官Natasha Crampton則表示，新加坡在全球關於負責任AI的討論中發揮著關鍵作用。

「通過與IMDA的合作，我們可以將政府的洞察力與微軟的技術及運營經驗相結合，從而強化AI評估，應對新興風險，並增強對先進AI系統的信任，」她說道。