# AI失控風險劇增！新加坡部長發聲：必須像航空業那樣建立嚴苛的安全防線

URL: https://www.shicheng.news/zh-hant/v/VaN8a
Published: 2026-09-17
Source: 獅城新聞

![AI失控風險劇增！新加坡部長發聲：必須像航空業那樣建立嚴苛的安全防線](https://www.shicheng.news/images/image/1791/17915063.avif?0)





新加坡數字發展與信息部長趙乃芝（Josephine Teo）表示，隨著人工智慧（AI）的普及，必須建立類似於航空業的安全保障機制，才能在技術推廣過程中建立公眾信任。

趙乃芝在周四（9月17日）的一篇 LinkedIn 帖子中將 AI 與民航業進行了類比。她指出，民航業之所以能夠蓬勃發展，是因為擁有「數百甚至數千項」標準和法規，這些機制確保了飛行安全並贏得了公眾的信任。

「我們期望民航業的每家公司都能盡職地培訓員工並一致地執行安全保障措施。如果沒有這些保證，無論是乘客還是機組人員都不會登機，」她寫道。

「信任是任何技術被常規依賴的核心前提。在未來，AI 世界必須建立起一套屬於自己的安全體系。」

趙乃芝的這番言論正值 OpenAI 執行長 Sam Altman 和 Anthropic 執行長 Dario Amodei 等頂尖 AI 公司領導人呼籲放緩開發速度之際。他們擔心，如果開發速度超過了人類理解和控制技術的能力，人類可能會失去對 AI 的控制。

由於 AI 能力的飛速提升以及一系列安全事故的發生，人們對其擔憂日益增加。

今年 7 月，部分 OpenAI 模型突破了限制，入侵了 AI 初創公司 Hugging Face。OpenAI 在本月早些時候確認，在 Hugging Face 事件之前，基於其模型構建的自主軟體還攻擊了另一個網站。

Anthropic 也在 7 月披露，由於配置錯誤導致其 AI 模型 Claude 獲得了網際網路訪問權限，在測試期間入侵了三家公司的系統。

趙乃芝指出，針對先進 AI 的保障機制目前仍在構建中，且「遠未成熟」，必要的研發和測試需要時間。

「這就是為什麼我們現在必須開展艱苦且務實的具體工作，」她表示。她補充說，新加坡在推廣 AI 的同時也在構建安全防線，例如開發測試和驗證 AI 系統的方法，增強評估先進模型的技術能力，並為組織提供負責任使用 AI 的實用指南。

「諸如 AI Verify、新加坡 AI 安全研究所以及我們的模型 AI 治理框架等舉措都在支持這項工作。」

此外，新加坡還推出了一份指南，旨在幫助企業更安全、更可靠地部署 AI 智能體（AI agents）。

她還強調，國際合作至關重要，因為任何國家都無法單獨解決 AI 安全問題。

今年 5 月，新加坡舉辦了第二屆 AI 安全國際科學交流會，來自 13 個國家的 100 多位貢獻者共同探討如何管理該技術的風險。

趙乃芝表示，由此產生的《新加坡全球 AI 安全研究優先級共識》報告彙集了全球不同視角的觀點，確定了全球 AI 安全研究的共同優先級。

「我們不可能從一開始就擁有所有答案。但隨著 AI 能力的增強，其安全保障必須同步跟進，」這位部長表示，新加坡將繼續測試、學習並強化其應對方案。

「信任是我們打造充滿活力的 AI 中心愿景的核心。我們將與工業界、研究人員及國際合作夥伴共同努力，確保 AI 能被自信地使用，造福所有人。」