隨著人工智慧技術的不斷深入應用，人工智慧治理已受到全球高度關注。2022年5月，新加坡推出全球首個人工智慧治理測試框架和工具包，以通過標準化測試來驗證人工智慧系統，這一舉措使得新加坡在人工智慧治理實踐領域又一次走在全球前列。還值得一提的是，新加坡是我國申請加入的《數字經濟夥伴關係協定》（DEPA）的三大發起國之一，而探索負責任使用人工智慧監管框架是協定涉及的一項重要內容。因此，新加坡在人工智慧治理領域的理念和實踐值得我們關注和借鑑。
實踐探索進展：
從發布原則指南到推出評測工具平台
新加坡認為，建立可信生態是發展數字經濟的關鍵。自2018年以來，一直致力於有關人工智慧倫理和治理的持續探索，先後發布人工智慧治理框架、組織實施和自評估指南以及人工智慧治理案例彙編等，近期又推出了名為「A.I.Verify」的全球首個人工智慧治理測試框架和工具包，系統、深入地指導各類組織機構開展人工智慧安全風險治理，以負責任的方式開發部署人工智慧。
新加坡在人工智慧治理實踐中採用了「原則+指南+工具」的一整套方案，其大致進展為：
2019年1月，在世界經濟論壇會議上發布《人工智慧治理模型框架》（第一版），為私營部門組織機構提供詳細且易於實施的指導，落實人工智慧關鍵倫理和治理問題，其目的是促進公眾對技術的理解和信任。《人工智慧治理框架》由新加坡信息通信媒體局和個人數據保護委員會聯合推出。
2020年1月，發布改進後的《人工智慧治理模型框架》（第二版），相比第一版，實現更好的相關性和可用性，推進治理原則不斷落地。同時，作為治理框架的配套指南，發布《組織實施和自我評估指南》，幫助各類組織機構評估其人工智慧治理實踐與模型框架的一致性，還提供了有用的行業實踐示例。該評估指南是與世界經濟論壇第四次工業革命中心合作的成果，有60多個機構參與了相關工作。同期還發布了《人工智慧治理案例彙編》，彙集不同行業、規模的組織如何根據治理框架來有效地實施負責任的人工智慧治理。
2022年5月，推出名為「A.I.Verify」的人工智慧治理測試框架和工具包（最低產品版MVP）。新加坡認為這是世界上首個以客觀和可驗證方式展示負責任人工智慧的測試框架和工具包，將負責任和值得信賴的人工智慧概念落地，可幫助企業提高其人工智慧產品和服務透明度。人工智慧開發者和擁有者可以通過一套定量和定性相結合的標準化評測方式，來驗證其人工智慧系統是否符合聲稱的性能。目前，該測試框架和工具包還處於試點階段，包括亞馬遜、谷歌、微軟、新加坡電信、渣打銀行在內的來自不同領域、不同規模的10家企業已經開展了試用並提供了反饋，相關意見將用於更新版本。新加坡還計劃將其提升為國際範圍內使用的測試框架和工具包，並為國際標準的制定作出貢獻。
治理框架的核心思想：
明確兩大頂層原則和四個關鍵維度
新加坡人工智慧治理框架是由信息通信媒體局和個人數據保護委聯合發布的一個通用性框架，先後已發布兩個版本，各行業和組織機構可結合自身情況作出靈活調整，其目的是應對人工智慧開發應用帶來的風險問題，從而更好地建立用戶的信任。治理框架的核心內容和思想主要體現為：先從頂層確立兩大原則，然後從四個關鍵維度提出規範性要求和評估清單，指導組織機構自願開展自我評估和改進，更好地促進負責任人工智慧的實施。
明確兩大頂層原則，促進對人工智慧的理解和信任
新加坡在人工智慧治理框架中，首先從頂層明確了兩大原則，即「人工智慧決策過程可解釋、透明、公平」和「人工智慧解決方案應以人為中心」。
一是各類機構應確保人工智慧決策過程的可解釋、透明和公平。新加坡認為，雖然不可能達到完美的可解釋性、透明度和公平性，但機構使用人工智慧時應努力確保其儘可能地實現這一原則所要達到的目標，這有助於建立公眾對人工智慧的信任和信心。
二是人工智慧的解決方案應該以人為中心。由於人工智慧被用來增強人類的能力、保護人類福祉和安全等利益，因此，在設計、開發和部署人工智慧時應考慮以人為中心。
著力四個關鍵維度，提出具體規範性要求
新加坡人工智慧治理框架將人工智慧倫理原則轉化為組織自願採取的實際措施，在基於兩大原則的基礎上，重點從內部治理結構措施、人類參與決策程度、開發部署運營管理、與利益相關者溝通四大維度，提出了規範性的具體操作要求。
在內部治理結構措施方面，治理框架要求明確相關角色職責、風險監控和管理的標準操作程序，以及開展員工培訓等。具體要求有：調整現有（或建立）內部治理結構和措施，將把算法決策相關的價值、風險和責任納入機構治理體系中，明確以符合倫理方式部署使用人工智慧的角色和責任，建立一套涉及人工智慧的風險管理、監測報告等內部控制制度，確保機構對開發部署人工智慧進行有力的風險管控。
在人類參與決策程度方面，治理框架要求確定人類干預的適當程度，將傷害風險降到最低。具體要求有：機構要設定其使用人工智慧風險偏好的方法，即確定可接受的風險和確定人類參與人工智慧增強決策的監督程度，在部署人工智慧解決方案之前，機構應該決定其使用人工智慧擬達到的商業目標，然後以其價值觀為指導對使用人工智慧的風險進行權衡。
在開發部署運營管理方面，治理框架要求實現數據和模型偏差最小化，開展基於風險的測量方法，對如何建立良好的數據管理實踐和對算法幾個特定的把握方面提出要求等。具體要求有：機構需要做好在開發、選擇和維護人工智慧模型時的問題考慮，數據和算法/模型間的緊密交互關係是各個階段需要考慮的重點。數據層面，組織機構應該制定完備的數據問責制，包括了解數據來龍去脈，保證數據質量，儘量減少固有偏差，用不同的數據集進行訓練、測試和驗證，定期審查並升級數據集；算法/模型層面，組織機構應該採用基於風險的雙重評估方法，評估能夠產生人工智慧系統特性的人工智慧算法和模型。首先確定對公眾影響最大的特性，其次確定哪些措施將最有效地與利益相關者建立信任，如可解釋性、魯棒性和常規調優等特性可以不同程度地作為組織人工智慧部署的一部分，而再現性、可追溯性和可審核性則與特定場景相關。
在與利益相關者溝通方面，治理框架要求讓用戶了解人工智慧策略，儘可能允許用戶提供反饋，讓溝通變得容易理解。具體要求有：組織機構應提供關於其產品和/或服務中是否使用人工智慧的相關信息，以及人工智慧在決策過程中扮演的作用和程度等；不同的利益相關者有不同的信息需求，組織要確定受眾的目的和溝通環境，以及組織應考慮是否向個人提供選擇退出的機制，在制定選擇推出機制時要考慮的因素等。
治理實踐的主要特點：
系統、持續、務實地推進治理原則落地
總體來說，新加坡在人工智慧治理實踐中採用了「原則+指南+工具」的方式，最大特點就是系統、持續、務實地推進治理原則的落實，引導各類組織機構開展負責任人工智慧治理。其以下三大具體做法值得借鑑學習。
列出詳細問題清單，指導各方自我評估和改進
新加坡在出台《人工智慧治理模型框架》後，又發布《組織實施和自我評估指南》。該指南以模型框架中描述的四個關鍵領域為基礎，詳細列出了包含5個維度共計60多個問題的評估清單，具有很強的指導性和可操作性。5個維度分別是：部署人工智慧的目標、內部治理結構和措施、確定人類參與人工智慧增強決策的程度、開發部署運營管理、利益相關者互動和溝通策略。新加坡希望通過這套指南幫助組織機構以系統的方式評估其人工智慧治理過程，識別潛在差距並加以改進，以確保企業的AI方案符合人工智慧治理模型框架。
發布實踐優秀案例，開展示範引導和對標學習
為了幫助各類機構更好地理解人工智慧治理框架，新加坡在出台的治理框架文件中，用專欄等方式列出了一些企業在某些方面的實踐做法。例如在內部治理結構方面，列舉了幾家公司較為詳細的架構設置和職責分工。另外，還發布了兩卷人工智慧治理案例彙編，較為詳細地展示了不同機構如何實施與治理框架相一致的人工智慧治理實踐，供其他機構參考借鑑，以達到示範引領的作用。
推出測試框架和工具，促進「過程檢查+技術測試」落地
新加坡推出的「A.I.Verify」人工智慧治理測試框架和工具包，從評測角度提出了一個具有很強落地指導性的人工智慧治理解決方案。「A.I.Verify」通過「過程檢查+技術測試」的標準化方式，從透明度、可解釋性、可再現性、安全性、魯棒性、公平性、問責制、人類監督等方面驗證人工智慧系統是否符合聲稱的性能。該工具包將為開發者、管理者和商業夥伴生成報告，在一定程度上為人工智慧企業提供客觀和可驗證方式的展示，證明其是否履行了治理責任，從而提高企業和其利益相關者的透明度，有助於建立用戶信任。
啟示與建議：
兼顧創新安全
構建安全可信的人工智慧生態
從新加坡出台的一系列人工智慧治理政策指導文件和工具可以看出，新加坡政府對推動人工智慧可信向善發展的行動力。新加坡認為，在全球人工智慧倫理和治理中，其治理方法在促進技術創新同時，又達到保護消費者利益的目的，可以作為全球重要參考。新加坡出台非強制性的治理框架、發布有實操性的評估指南，以及建立治理評測框架和工具包等做法確實可供借鑑學習。結合當前我國人工智慧治理實際，提出以下兩點建議。
明確各方主體責任，從「管理+技術」兩方面構建安全可信的人工智慧生態
新加坡在人工智慧治理實踐中充分運用「管理+技術」模式，將人工智慧治理原則加以落地。在管理方面，新加坡人工智慧治理框架的一個重點是要求建立內部治理架構和責任體系，幫助組織機構將人工智慧倫理治理原則納入到熟悉的或已存在的治理架構中，從過程上保證履行治理框架提出的各項要求，從而更好地建立用戶信任。我國可結合當前科技倫理治理和網絡安全工作責任制建設等，設計建立人工智慧安全風險治理責任制度。無論是融合傳統的風險管理體系，還是建立新的風險管理體系，在建立人工智慧安全風險治理責任制方面，需要從兩個層面明確責任，一方面明確人工智慧系統開發設計單位、部署使用單位、數據提供方等主體的安全責任；另一方面明確各類組織機構內部相關人員的角色和責任，把相關治理原則落實到實際工作中。
加大先行先試力度，為形成兼顧創新與安全的人工智慧治理體系奠定基礎
業內專家認為，當前人工智慧治理面臨的最大挑戰是沒有一套比較成熟的體系來規制其潛在的風險。從國際趨勢來看，一些國家和地區正在抓緊人工智慧治理的研究和探索，例如，歐盟推出人工智慧立法草案；美國預計於2023年初推出人工智慧風險管理框架。新加坡不僅將人工智慧治理從原則層面邁向實操層面，而且開始探索為人工智慧治理提供工具化、平台化服務。我國在戰略上也高度重視這一挑戰，如在規範網際網路信息服務算法推薦、深度合成管理，以及網聯汽車數據管理、金融應用等專門領域已經開展了積極探索，但從人工智慧加快與各領域融合應用的需求來看，政策指導的覆蓋面和落地性還不夠，亟待加強體系化設計和考慮。建議可積極鼓勵我國人工智慧試驗區或先導區，以及相關行業領域，結合自身條件，大膽推進這方面的先行先試，探索在促進技術創新和規制潛在風險之間找到平衡點，推出類似人工智慧融合應用安全風險管理指南的政策性文件，在試點基礎上總結經驗，從而為建立全國性規制體系提供實踐參考。
內容來自：《信息化建設》2023年1月刊 第292期
作者：邱惠君 郭 利
