# 新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋 URL: https://www.shicheng.news/zh-hant/v/pY8q8 Published: 2024-01-18 Source: 獅城新聞 新加坡作為一個人工智慧的先驅者和領導者，一直致力於推動人工智慧的發展和治理，為全球提供有益的經驗和參考。最近，新加坡在瑞士達沃斯世界經濟論壇年會上，提出了一個新的生成式人工智慧治理框架，並尋求國際反饋。 ![新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋](https://www.shicheng.news/images/image/1737/17374758.avif?0) 這是全球首個針對生成式人工智慧的治理框架，也是新加坡在人工智慧治理領域的又一重要貢獻。 01** 為何需要治理框架 ## 如何在保障生成式人工智慧的創新和效益的同時，防止其濫用和誤用，是一個亟待解決的問題，目前，全球對生成式人工智慧的治理和監管還處於初級階段，缺乏統一的標準和原則。 ## 新加坡在 2019 年就推出了全球首個人工智慧治理框架，為傳統人工智慧提供了詳細的指導和建議，該框架以兩個基本原則為指導，即決策過程的可解釋性、透明性和公平性，以及人工智慧系統的以人為本和保護人類福祉和安全。 ## 該框架得到了國際社會的廣泛認可和讚譽，也為不同行業和部門提供了參考和借鑑。 新加坡通信和信息部長楊莉明正在瑞士達沃斯參加世界經濟論壇年會，她在接受《海峽時報》採訪時表示：「人工智慧治理不能僅在國家層面進行，我們對全球對話的貢獻是我們選擇世界經濟論壇作為更新框架和尋求國際投入的啟動平台的部分原因。 這個領域還處於新生階段，我們相信，為了取得進展，必須有人提供一些東西，將其擺到桌面上，然後全球對話才能進一步豐富。」 人工智慧驗證基金會（AIVF）和信息通信媒體發展局（IMDA）周二（1月16日）在一份聯合新聞稿中聲明：「有了生成式人工智慧，有必要更新早期的模型治理框架，以全面解決出現的新問題。」 該聲明中包含更多使用生成式人工智慧相關風險的討論文件，以及為生成式人工智慧模型的安全評估和人工智慧產品的持續評估測試提供指導的工作。 **傳統人工智慧和生成式人工智慧有什麼區別？** 隨著技術的快速發展，很難區分不同類型的人工智慧。傳統人工智慧通常基於一組特定的數據智能地執行特定任務。 雖然這些系統能夠學習固定輸入並做出決策，但它們不能創造任何新的東西，只是根據現有數據分析和預測結果。Siri 等語音助手和 Netflix 或流媒體服務上的推薦引擎是傳統 AI 的例子。 然而，生成式人工智慧創造了一些新的東西，隨著生成對抗網絡（GAN）的引入，生成式人工智慧可以創建新的圖像、視頻和音頻。ChatGPT 是 OpenAI 的病毒式聊天機器人，是生成式 AI 的一個例子。 據《福布斯》報道，傳統人工智慧和生成式人工智慧之間的主要區別在於它們的能力和應用。傳統的人工智慧可以分析數據並告訴你它看到了什麼，但生成式人工智慧可以使用相同的數據來創造全新的東西。 ## 該提案旨在為生成式人工智慧問題提出一種「系統和平衡的方法」，同時促進創新，並讓政策制定者和研究界等所有關鍵利益相關者「共同儘自己的一份力量」。 03 培育可信生態網絡 ## 新加坡資訊通信媒體發展局（IMDA）和個人數據保護委員會（PDPC）都表示：生成式人工字能具有「巨大的變革潛力」，超過了傳統人工智慧所達到的水平，但這帶來了風險。 ## 「雖然它仍然是一個動態發展的領域，但全球越來越一致地認為，需要一致的原則來創造一個可信的環境——一個使最終用戶能夠自信、安全地使用生成式人工智慧的環境。」 ![新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋](https://www.shicheng.news/images/image/1737/17374759.avif?0) 所以在生成式人工智慧的場景不斷發展的背景下，新加坡在原有框架的基礎上，由IMDA和PDPC共同開發了一個新的生成式人工智慧治理框架，稱為 MGF-GenAI。 新框架非常全面，確定了人工智慧治理的九個關鍵維度，分別是： 問責制：明確人工智慧系統的責任主體和責任分配，建立有效的監督和審查機制。 安全性：確保人工智慧系統的可靠性、魯棒性和抵禦攻擊的能力，防止故障和損害。 可解釋性：提供人工智慧系統的決策邏輯和依據，使利益相關者能夠理解和信任其輸出。 透明度：披露人工智慧系統的相關信息，包括目的、功能、數據來源、限制和風險等。 公平性：避免人工智慧系統的偏見和歧視，保障不同群體的利益和權利。 人性化：尊重人類的價值觀、尊嚴和自主性，保持人類在人工智慧系統中的主導地位。 隱私：保護個人數據的安全和保密，遵守相關的法律和道德規範。 社會責任：評估人工智慧系統對社會和環境的影響，促進社會福祉和可持續發展。 測試和保證：對人工智慧系統進行全面和持續的測試和評估，確保其符合預期的目標和標準。 該框架旨在促進政策制定者、行業和研究界之間的國際對話，以實現全球可信的生成式人工智慧發展。該框架預計將於 2024 年中期完成，屆時將與 2023 年 12 月啟動的國家人工智慧戰略 2.0 同步推進。 **04** 汲取經驗，塑造新框架 雖然新加坡並不是唯一一個對全球討論做出貢獻的國家，但一直走在最前沿，該國處理人工智慧治理的實際方式（包括開發 AI verify 等測試工具包）使其被認為是務實且具有前瞻性的國家。 AI verify 是一個工具包，旨在幫助組織根據國際公認的人工智慧治理原則（例如安全性、可重複性和透明度）驗證其人工智慧系統的性能。AI 驗證基金會由 IMDA 於 2023 年成立，其成員包括谷歌、IBM、微軟和 Salesforce 等公司。 當被問及從原始框架中汲取的經驗教訓如何塑造新框架時，楊莉明表示，當 2019 年版本推出時，金融服務和醫療保健等不同行業都在此基礎上開發了針對它們的特定內容。MGF-GenAI 可能會走類似的道路，因為不同的部門將以自己的方式使用生成式人工智慧，並且必須找到最適合其情況的治理表達方式。 **05** 積極提高全球對新框架的認知 ![新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋](https://www.shicheng.news/images/image/1737/17374760.avif?0) 圖源：ST 關於新加坡將如何提高全球對 MGF-GenAI 的認識，楊莉明指出，新加坡積極參與人工智慧的全球對話，如通過新加坡是其創始成員的全球人工智慧合作夥伴關係等途徑，新加坡和美國一直在努力尋找美國人工智慧風險管理框架和新加坡治理框架之間的一致性領域。 美國對我們不僅已經開發了一個框架，而且還有一個與之配套的測試工具包非常感興趣，我們也正在討論著，完成協調後，對話將提交給國際標準制定機構，看看這兩種模式之間的協調是否可以作為制定國際標準的基礎，讓更多國家可以參與其中。 楊莉明也表示：」我們正在採取這些步驟，以促進能夠以負責任的方式實施人工智慧的環境，人工智慧安全是可以實現的。通過這樣做，我們希望為人工智慧創新提供更堅實的基礎。」 對於與傳統人工智慧相比，生成式人工智慧的治理出現了一些潛在挑戰，生成式人工智慧用途將變得廣泛，其使用方式仍在接受組織甚至政府的測試，因此很難判斷具體是哪一種，這意味著現階段的人工智慧治理很大程度上仍停留在設定原則和確定更重要的層面。 **06** 用人工智慧提升生產力，期待全球共識 關於這一框架和生成式人工智慧的使用將如何影響就業和經濟，楊莉明表示，人工智慧工具的測試和驗證是一個潛在的行業，可以從這一發展中成長起來。 新加坡看到的是一般技術，而不僅僅是技術，人工智慧以三種方式影響勞動力——提高生產力、潛在的工作取代和工作恢復。新加坡的方法是增強對生產力的影響，使其儘可能廣泛，同時通過培訓民眾接受新工作或因技術採用而增加的工作來最大限度地減少替代效應。 在去年 12 月宣布國家人工智慧戰略 2.0 時，副總理黃循財 (Lawrence Wong) 公布了通過培訓本地人才和從海外招聘人才，將國家人工智慧人才庫增加兩倍至 15,000 人的計劃。他還談到政府致力於為人工智慧建立一個值得信賴的環境，並解決該領域的道德和倫理問題，例如人工智慧是否適合代替人類做出決策。 他當時表示，各國政府現在必須在塑造人工智慧方面發揮積極作用，這引發了更深刻的問題，新加坡將在不阻礙創新的情況下找到監管的務實平衡。 IMDA 在 1 月 16 日的聲明中表示，雖然生成式人工智慧仍然是一個動態發展的領域，但全球日益達成共識，需要一致的原則來創建一個可信的環境。這樣，最終用戶就可以自信、安全地使用生成式人工智慧，同時為尖端創新留出空間。 IMDA 在談到 MGF-GenAI 時表示，這一擬議框架旨在促進政策制定者、行業和研究界之間的國際對話，以實現全球可信發展。 ![新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋](https://www.shicheng.news/images/image/1737/17374761.avif?0) ![新加坡推出全球首個生成式人工智慧治理框架，徵求國際反饋](https://www.shicheng.news/images/image/1737/17374762.avif?0)