# 可评估安全与否及韧性公平性等表现  新加坡资媒局推出新框架测试AI科技

URL: https://www.shicheng.news/v/2xP7J
Published: 2022-05-31
Source: 狮城新闻

![可评估安全与否及韧性公平性等表现  新加坡资媒局推出新框架测试AI科技](https://www.shicheng.news/images/image/1697/16978034.avif?1653908447)





新加坡通讯及新闻部长兼内政部第二部长杨莉明5月25日在世界经济论坛上宣布推出AI Verify，企业可借助这个实用资源评估人工智能系统，向利益相关者展示这些系统的性能，提升透明度以及人们对这项科技的信任。（彭博社）

文 / 李思敏

人工智能科技可用来核实客户身份、防止索赔欺诈或进行机器翻译等，却也涉及不少安全隐私和公平问题。新加坡制定一套新框架，通过一系列技术和流程测试，核实产品和服务使用的人工智能系统是否能做出合乎依据的抉择，并对用户安全、可靠和透明。

新加坡通讯及新闻部长兼内政部第二部长杨莉明5月25日在瑞士达沃斯举行的世界经济论坛上宣布推出AI Verify时说，这是企业可用来自我评估的实用资源，他们可借此向利益相关者展示人工智能（AI）系统的性能，提升透明度，以及人们对这项科技的信任。

新加坡资讯通信媒体发展局：通过AI Verify培养公众信任 这是全球首套可用来核实AI系统安全和可靠等各方面表现的框架，杨莉明也广邀公司和机构试行采用。

新加坡早在2019年推出人工智能监管模式框架和全国人工智能策略，为多个领域和企业提供使用AI的指导原则。新加坡资讯通信媒体发展局说，AI是个新兴领域，更多产品和服务在使用这项创新科技的同时，也能通过AI Verify，培养公众对这方面的信任。 

AI Verify由资媒局和个人资料保护委员会共同制定。当局将多个开源测试方案包装成一个工具包，供开发者和公司使用。

他们只须下载这个工具包，并按照指示进行一系列技术和流程测试。工具包会根据AI系统是否能做出公平及合乎依据的抉择，以及是否够安全和坚韧等方面的表现，生成一份评估报告。开发商和高层之后可选择与利益相关者分享报告结果。

**目前有10家公司率先试行采用系统**

至今已有10家公司率先试行采用，包括星展银行、谷歌、Meta，以及新加坡航空等。这些公司都已经在日常运作中采用AI。例如，星展银行借助AI和机器学习为客户进行财务和投资规划，公司也制定一套可用来反洗黑钱和反恐融资的监管系统，并为职员规划职业发展跑道和技能培训。

星展银行首席分析官古普塔（Sameer Gupta）受访时说，通过与资媒局的合作，公司更了解如何在监管AI系统的同时，不扼杀这项创新科技的发展。他也说，使用工具包的过程简单易懂，公司下来也会参考新框架内适用于银行运作的部分。

“我们会继续制定AI内部监管方法、流程和控制措施，确保银行负责任使用这项科技，提升客户、职员、利益相关者，以及社会对我们的信任。”

新框架目前处于最简可行产品（Minimum ViableProduct）的阶段。资媒局广邀业界试行采用，并提供反馈协助当局改善框架，将来对制定国际标准也会有帮助。

在国际合作方面，我国加入人工智能分技术委员会，也正同其他国家和伙伴接洽，就加强AI监管框架和制定国际标准进行探讨。资媒局也同美国商务部展开合作，制定相互兼容的AI监管框架。

文章来源于网络

![可评估安全与否及韧性公平性等表现  新加坡资媒局推出新框架测试AI科技](https://www.shicheng.news/images/image/1697/16978035.avif?1653906722)