分析、學術科普與產業觀察,持續關注 AI、機器人與晶片的前沿進展與商業競爭,並將視角落回新加坡這一現實場景。
9月26日,在第81屆聯合國大會一般性辯論上,新加坡外交部長維文醫生以「駕駛高性能汽車」為比喻,系統闡述了人工智慧治理的緊迫性與路徑。
維文在發言中直言,人工智慧「或許是我們面臨的最緊迫前沿」。它蘊含巨大潛力,但能力的推進速度已經超過了我們對風險的理解。他用一句形象的判斷定下基調:「精靈已經逃出瓶子。」在大國競爭與巨大商業利益的驅動下,呼籲暫停AI發展為時已晚。與其幻想踩下剎車,不如正視現實,把重點轉向如何安全駕駛。

維文將AI帶來的風險歸納為三個層面。
首先是自主系統失控——當AI在缺乏有效約束時,可能做出違背人類意圖的行為。
其次是被不法分子利用,可能藉助AI製造生物武器或其他大規模殺傷性、破壞性武器。
第三則是對經濟社會秩序的衝擊,AI的快速滲透對經濟、社會、政治及國內秩序造成的擾動「才剛剛開始顯現」。
這三類風險並非各自獨立,而是相互交織、彼此放大,使得治理的緊迫性進一步上升。
面對這樣的風險圖景,維文用駕駛高性能汽車來比喻AI治理的完整框架。引擎代表創新,每個國家都必須繼續投資於科學、人才和基礎設施。對於小國而言,這意味著尤其要培養人民掌握快速、廣泛、大規模且安全部署AI的技能。
維文強調,AI真正的生產力提升不是來自IT部門,而是來自企業和工人有能力重新設計工作流程。
剎車代表安全保障,能力越強,保障必須同步跟上,這包括部署前的嚴格測試與評估,對自主系統設定明確的行為界限,以及建立人類干預機制。而交通規則則代表全球共識,AI風險不局限於國境之內,我們需要形成全球對如何共同應對這一挑戰的統一規則。
在這一切之上,維文反覆強調一條不可逾越的底線:人類必須最終保持控制權和問責。他以一個尖銳的反問強化了這一立場——有誰願意把核按鈕交到AI手中?這句話直指AI治理的核心:無論技術多強,最終的決策權與責任歸屬必須牢牢掌握在人類手中。
沿著這一思路,維文提出了具體的制度路徑。他呼籲國際社會探索所有選項,包括制定《聯合國人工智慧安全保障框架公約》。他認為,聯合國是唯一具有普遍會員資格的最高國際機構,應當在匯聚各國形成AI共同規則方面發揮核心作用。
此外,可能還需要一個國際機構,承擔類似於國際電信聯盟設定技術標準、國際原子能機構進行核查的職能。維文同時宣布了新加坡的實際行動:新加坡已加入由芬蘭和挪威牽頭的關於提升前沿AI模型安全性的呼籲,並將通過「小國論壇」等平台分享自身的治理框架與測試工具。
維文在聯合國發言中傳遞出明確信號:人工智慧發展速度已超過風險治理的節奏。他指出,當前世界正處於「一個尤其動盪和潛在危險的階段」,但相關對話已經啟動,政策選項也已擺上檯面。接下來的關鍵在於,國際社會能否在風險進一步放大之前,就AI治理規則達成共識。