# 可評估安全與否及韌性公平性等表現  新加坡資媒局推出新框架測試AI科技

URL: https://www.shicheng.news/zh-hant/v/2xP7J
Published: 2022-05-31
Source: 獅城新聞

![可評估安全與否及韌性公平性等表現  新加坡資媒局推出新框架測試AI科技](https://www.shicheng.news/images/image/1697/16978034.avif?1653908447)





新加坡通訊及新聞部長兼內政部第二部長楊莉明5月25日在世界經濟論壇上宣布推出AI Verify，企業可藉助這個實用資源評估人工智慧系統，向利益相關者展示這些系統的性能，提升透明度以及人們對這項科技的信任。（彭博社）

文 / 李思敏

人工智慧科技可用來核實客戶身份、防止索賠欺詐或進行機器翻譯等，卻也涉及不少安全隱私和公平問題。新加坡制定一套新框架，通過一系列技術和流程測試，核實產品和服務使用的人工智慧系統是否能做出合乎依據的抉擇，並對用戶安全、可靠和透明。

新加坡通訊及新聞部長兼內政部第二部長楊莉明5月25日在瑞士達沃斯舉行的世界經濟論壇上宣布推出AI Verify時說，這是企業可用來自我評估的實用資源，他們可藉此向利益相關者展示人工智慧（AI）系統的性能，提升透明度，以及人們對這項科技的信任。

新加坡資訊通信媒體發展局：通過AI Verify培養公眾信任 這是全球首套可用來核實AI系統安全和可靠等各方面表現的框架，楊莉明也廣邀公司和機構試行採用。

新加坡早在2019年推出人工智慧監管模式框架和全國人工智慧策略，為多個領域和企業提供使用AI的指導原則。新加坡資訊通信媒體發展局說，AI是個新興領域，更多產品和服務在使用這項創新科技的同時，也能通過AI Verify，培養公眾對這方面的信任。 

AI Verify由資媒局和個人資料保護委員會共同制定。當局將多個開源測試方案包裝成一個工具包，供開發者和公司使用。

他們只須下載這個工具包，並按照指示進行一系列技術和流程測試。工具包會根據AI系統是否能做出公平及合乎依據的抉擇，以及是否夠安全和堅韌等方面的表現，生成一份評估報告。開發商和高層之後可選擇與利益相關者分享報告結果。

**目前有10家公司率先試行採用系統**

至今已有10家公司率先試行採用，包括星展銀行、谷歌、Meta，以及新加坡航空等。這些公司都已經在日常運作中採用AI。例如，星展銀行藉助AI和機器學習為客戶進行財務和投資規劃，公司也制定一套可用來反洗黑錢和反恐融資的監管系統，並為職員規劃職業發展跑道和技能培訓。

星展銀行首席分析官古普塔（Sameer Gupta）受訪時說，通過與資媒局的合作，公司更了解如何在監管AI系統的同時，不扼殺這項創新科技的發展。他也說，使用工具包的過程簡單易懂，公司下來也會參考新框架內適用於銀行運作的部分。

「我們會繼續制定AI內部監管方法、流程和控制措施，確保銀行負責任使用這項科技，提升客戶、職員、利益相關者，以及社會對我們的信任。」

新框架目前處於最簡可行產品（Minimum ViableProduct）的階段。資媒局廣邀業界試行採用，並提供反饋協助當局改善框架，將來對制定國際標準也會有幫助。

在國際合作方面，我國加入人工智慧分技術委員會，也正同其他國家和夥伴接洽，就加強AI監管框架和制定國際標準進行探討。資媒局也同美國商務部展開合作，制定相互兼容的AI監管框架。

文章來源於網絡

![可評估安全與否及韌性公平性等表現  新加坡資媒局推出新框架測試AI科技](https://www.shicheng.news/images/image/1697/16978035.avif?1653906722)