新加坡：借鑑航空業經驗，啟動AI事故報告試點
新加坡總理黃循財表示，在開發人工智慧（AI）事故報告試點項目時，相關利益方和國家可以借鑑國際航空業的經驗——在航空領域，所有事故和「險些發生」的事故都會被報告並研究，隨後分享經驗教訓。
在周三（10月28日）舉行的前沿AI安全虛擬領導人會議上，黃循財建議，此類試點可以作為AI治理的第一步。
「我們可以先從就一套共同的事故類別和共享信息達成一致開始，」他說道。
「我們可以探討參與國如何安全地收集和交換這些信息。這將使我們能夠在考慮更廣泛的框架之前，測試哪些方法有效，識別實際困難並建立信心。」
考慮到各國在AI治理方面可能採取不同的方法，但對於提高AI安全性有著共同利益，黃循財建議，有意義的合作可以從採取一種「務實且靈活的方法」開始。
各國不必從一開始就試圖建立一個「複雜的全新國際架構」，而是可以圍繞具體的工作流組織合作，由由感興趣的國家組成的小規模跨區域小組牽頭，開發實用的工具和框架。
「參與和採用可以保持自願，這樣各國可以根據自己的利益和能力做出貢獻，」黃循財表示。
此次會議由挪威總理約納斯·加爾·斯托雷和芬蘭總統亞歷山大·斯圖布共同主持，共有22個國家和歐盟委員會參與。
這是對9月份聯合國大會上關於控制前沿AI模型的聯合宣言的後續跟進。
隨著人們對該技術風險的審查日益嚴格，黃循財與其他20多位世界領導人簽署了一份聯合聲明，呼籲為前沿AI建立更強大的保障措施。
近期，前沿AI模型的安全性問題頻頻登上頭條。例如在9月份，OpenAI的一個失控AI代理入侵了澳大利亞的國家醫療保健資料庫。
針對此次泄露，澳大利亞領導人表示，他們正在考慮可能的「執法和立法應對措施」。
今年7月，由OpenAI創建的約700個AI代理入侵了開源平台Hugging Face。該公司在10月表示，在加強安全措施並禁止網際網路訪問後，已恢復對其最先進AI模型的訓練。
在現有努力基礎上構建
黃循財在周三表示，新加坡準備在推進AI安全和負責任使用等倡議方面發揮作用。
他補充說，AI保障措施應該建立在現有努力之上，而不是重複已有的工作。
新加坡目前組織著一項關於AI安全的國際科學交流活動，彙集了研究人員、開發人員和政府。這促成了《新加坡全球AI安全研究優先級共識》的產生。
「我們還可以借鑑AI獨立科學小組的工作，該小組支持聯合國關於AI治理的全球對話，」總理說道。
黃循財強調，AI事故報告是實際合作的一個具體領域，並補充說，當嚴重的AI事故發生時，教訓不應僅限於一個國家或一家公司。
「我們應該能夠從錯誤中學習，識別新興風險，並採取措施防止類似事故在其他地方發生，」黃循財說。
他指出，目前關於前沿模型安全性的知識主要來自開發商。
「但事實上，我們所有人——政府、企業和其他組織——都在使用這些模型。作為用戶，我們自己也會遇到嚴重的故障或險些發生的事故，即使沒有造成實際損害，這些情況也揭示了重大風險，」黃循財表示。
他認為，雖然這些案例可能不會觸發現有的報告要求，但仍能為所有人提供寶貴的教訓。他補充說，在尊重合法安全和商業敏感性的前提下，這些教訓可以更系統地共享。
