新加坡：面對人工智慧（AI）風險日益受到關注，新加坡正支持一項由20多位世界領導人發起的國際呼籲，旨在為前沿人工智慧建立更強大的安全保障機制。
近幾周，關於前沿AI的擔憂再次升級。頂尖科學家和實驗室高管警告稱，AI的發展速度可能超過人類控制這些日益強大模型的能力。部分專家甚至發出警告，如果AI開發不減速，人類可能面臨滅絕的風險。
新加坡總理黃循財在周二（9月22日）表示，新加坡支持由挪威總理約納斯·加爾·斯托雷（Jonas Gahr Støre）和芬蘭總統亞歷山大·斯圖布（Alexander Stubb）發起的一份關於AI安全的聯合聲明。
該信函目前仍處於簽署階段，黃循財以及包括加拿大總理馬克·卡尼（Mark Carney）和澳大利亞總理安東尼·阿爾巴尼斯（Anthony Albanese）在內的21位世界領導人已在信上簽字。
信中呼籲相關公司制定透明的安全協議，包括強制性的部署前測試和獨立評估，並允許合格的評估人員獲得足夠的訪問權限以評估風險。
此前，AI巨頭Anthropic的執行長達里奧·阿莫代（Dario Amodei）曾建議，AI公司應向獨立評估員提供類似員工的訪問權限，以驗證其是否遵守安全實踐並報告AI的異常行為。
在信中，各國領導人還敦促各國政府和區域組織在前沿AI領域加強合作與透明度。
這包括制定和協調統一標準、共享嚴重安全事件報告，並確保全球所有地區的國家都能獲得相關的科學能力、專業知識和可信的評估技術。
聲明還呼籲聯合國成員國探討建立一個國際機構，用於設定前沿AI的標準、實現驗證，並在AI能力突破關鍵閾值時召集各國商議。
黃循財在周二的Facebook帖文中表示，鑒於AI風險具有跨境特性，有效的安全保障需要國際合作。
他指出：「我們必須繼續尋找切實可行的方法來尋求共識，並帶動更多國家加入。」他補充道，這項技術擁有巨大的潛力，但必須始終處於人類的控制和監督之下。
新加坡已經啟動了多項建立AI保障機制的計劃，其中包括新加坡AI安全研究所（Singapore AI Safety Institute），該機構致力於開發評估工具和通用最佳實踐。
數字發展與信息部長鄧裕輝在周二表示，另一家AI巨頭OpenAI在關於構建AI安全標準的文章中提及該研究所，這令人感到「鼓舞」。
鄧裕輝在關於黃循財宣布該消息的LinkedIn帖文中表示，AI安全的國際合作必須由實際工作支撐。
她補充說，新加坡AI安全研究所為全球安全標準做出貢獻的努力，強化了一個簡單的原則：「隨著AI能力的提升，AI的安全能力必須同步提升。」
由於AI能力的飛速增長以及一系列安全事件，人們的擔憂日益增加。
今年7月，數百個OpenAI代理（agents）突破限制，入侵了AI初創公司Hugging Face。這些代理之間相互協作、留便條，並在超出預設任務範圍行動時試圖掩蓋行蹤。
OpenAI在本月早些時候確認，在其模型基礎上構建的自主軟體在Hugging Face事件之前，還攻擊了另一個網站。
Anthropic在7月也披露，由於配置錯誤導致其AI模型Claude獲得了網際網路訪問權限，在測試期間入侵了三家公司的系統。
9月12日，阿莫代呼籲AI公司放慢開發速度，警告稱發展過快是「魯莽的」。
包括OpenAI執行長薩姆·奧特曼（Sam Altman）和xAI的埃隆·馬斯克（Elon Musk）在內的頂尖AI公司高管，均支持阿莫代的減速主張。
然而，批評人士質疑，近期這些謹慎的呼籲是否是為了限制與行業領先企業的競爭。另一些人則認為，這些科技巨頭可能希望在計劃首次公開募股（IPO）之前削減資本支出，以向投資者美化財務報表。
