# SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB URL: https://www.shicheng.news/zh-hant/v/ZkxwR Published: 2019-07-03 Source: 獅城新聞 當今時代，人工智慧已無處不在，正在潛移默化的改變我們生活的方方面面——從定向廣告投放到基於 GPS 的導航 APP，再到高度個性化服務。這些創新應用背後所帶來的用戶信息和海量數據浪潮，促使各個國家政府機構想要迫切成為駕馭人工智慧領域的「掌舵者」。 哈佛大學伯克曼•克萊因網際網路與社會研究中心執行主任 Urs Gasser 對於人工智慧的現狀提出三類典型現狀。在美國，自由政策促使優先考慮創新，所以只有在出現問題時立法者才會進行干預。在歐盟，政府於2018年5月啟動了《通用數據保護條例》——該條例的預防性原則將公民保護、道德規範和責任管理置於技術創新之上；在中國，將人工智慧對於當今社會、政治和經濟關係所產生的影響視為重要議題。 面對人工智慧所引發的全球熱度，新加坡給出了自己的應對回應。新加坡前總檢察長/新加坡人工智慧及數據使用標準諮詢委員會主席 V.K. Rajah 表示，目前在新加坡缺少的是如何實施原則，並獲得監管機構、行業和消費者的支持。 2019年1月，新加坡發布了**人工智慧監管模式框架**（簡稱模式框架），作為企業在使用人工智慧時需要解決關於道德和倫理問題的指南。「新加坡力求將創新與管理風險之間取得平衡。」 Gasser 說道。 ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512082.avif?1589867799) **實用機制** 從網際網路的出現再到人工智慧和大數據的普及，立法進程在歷史上一直落後於新技術的崛起。發起模式框架的新加坡信息通信媒體發展管理局(I.M.D.A.)負責數據創新和保護的執行長助力 Zee Kin Yeong 表示:「在模式框架中最重要的就是落實。」**該框架框架主要從內部監管、人工智慧抉擇的風險管理、營運管理，消費者關係管理四個方面擬定對企業的指導原則及措施。** 1 **用戶至上** 由於新技術的出現可能會導致對於人類造成威脅或者隱患，因此公司企業應該遵循以下兩條指導原則，**一是協助企業確保以人工智慧做出的抉擇能有合乎解釋的依據、具透明度，並且對消費者公平；二是確保人工智慧的使用做到以人為本。** **新加坡管理大學人工智慧與數據治理中心主任 Yihan Goh 教授說「 A.I 應該被用來增強人類的能力和保護人類的利益。A.I 的設計、開發和部署的首要考慮因素應是對於人類的穩定與安全。**」企業開放的人工智慧的動機是實存在的。來自 ViSenze（人工智慧初創公司）的創始人 Oliver Tan 表示，「我們的 A.I 技術成功地為客戶提供了他們想要的結果，這也是客戶選擇我們的核心原因。」信任生態系統為 A.I 創造了一個良性循環，接受過良好教育的客戶更容易接受新技術，進而提升了採用率和產生更多有用信息，公司可以在這些信息基礎上構建並調整技術。 ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512083.avif?1589867799) 2 **構建成功人工智慧** 模式框架同樣支持適當的管理結構，ViSenze 在使用人工智部署工作時，將明確的責任分配到每個人。ViSenze 重點強調角色和責任的定義——無論是算法工程師還是業務人員，都應各司其職，分工合理。他表示，「我們在所有流程中映射出了相互依賴的關係，因此我們需要準確地知道上游/下游的每個流程所遵循的原則是什麼，以便更好地配合工作。」 波士頓初創公司 DataRobot（主要工作就是幫助企業建立預測模型）已成功為美國聯合航空公司和 Adobe 提供 A.I 技術的運營。但公司創始人 Jeremy Achin 敏銳地意識到企業結構中可能存在的缺陷，「如果執行發起人無法區分炒作和實際業務需求，業務專家沒有使用專業的算法來優化錯誤，可能會導致 A.I 項目的失敗。」 ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512084.avif?1589867799) 3 **人類在 A.I 決策中的作用** 人工智慧做出錯誤選擇的可能性有多大？會帶來很嚴重的後果嗎？根據模式框架，這些問題的答案會影響到決策過程中所需的人力參與程度。如果在決策中造成了嚴重的危害，應該有更多的人為參與和保障措施。例如，在生死攸關的情況下始終需要人類來做最後的決定。 數據集和模型中的不準確性以及偏差可能會導致意想不到的後果。研究人員發現，人工智慧算法在處理以西方為中主的數據集時，往往無法進行跨文化的識別。更嚴重的情況接連發生，由於數據集所形成的刻板印象和偏見在面對由美國總統組成的數據集時，人工智慧可能無法理解女總統這一概念。Goh 說：「企業應該在安全措施和部署策略中努力解決這個問題，通過構建更多樣化、更具有代表性的數據集，或者調整算法使它們更具包容性，從而降低企業使用人工智慧的風險，最終受益於終端用戶。」 新加坡星展銀行成立數據使用委員會，負責分析人工智慧生成的財務模型。「如果這是一個低風險模型，那麼我們將對其進行開發，並定期審查，」執行長Piyush Gupta 說。「如果這是一個存在負面後果，具有風險的新模型，那麼它就必須轉交給我們的理事會，由理事會決定能否創建這種新模型。」 ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512085.avif?1589867799) 4 **數據模型責任化** 數據是人工智慧的命脈，因此數據管理是模式框架的先決條件。這意味著要獲取數據的源頭，掌握如何在企業內收集、管理和移動數據，保持數據的準確性。Rajah 說：「擁有良好的數據問責機制，可以減少數據集和人工智慧模型中固有偏見的風險，有助於企業實現使用人工智慧的預期效果，並降低意外風險。」 另一方面是應用數據的算法和模型，例如微軟這樣的國際公司已經同意遵守以上模式框架，對話型A.I.的開發人員必須遵守「確保機器人尊重用戶隱私」和「確保機器人安全處理數據」等內部規則。儘管一些科技公司呼籲減少規定，因為他們認為這些規定會在一定程度扼殺創新力，但微軟提出了相反的立場，微軟全球國家技術官員兼顧問委員會成員 Andreas Ebert 表示：「我們認為，針對人工智慧，需要有公開、公平、明確的指導方針，這樣將更有助於鼓勵可持續創新發展。「 **全球反響** 新加坡發布了人工智慧監管模式框架在國際社會中產生了熱烈反響。杜拜在其《人工智慧指南》中引用了新加坡關於人工智慧和個人數據的論據，新加坡還因其在人工智慧道德治理方面的成就，在信息社會世界峰會上獲得了獎項。 新加坡還受邀加入了歐盟人工智慧高級小組（A.I. H.L.E.G.）和經濟合作與發展組織（O.E.C.D. ）人工智慧小組，就「全球範圍內人工智慧的道德最低標準「進行持續討論。越來越多的國家意識到有必要為人工智慧制定自己的倫理框架，以歐盟和新加坡為例，人工智慧應該以人為本，讓社會的不同組織機構參與進來，包括工業、學術界和公民社會組織。 儘管模式框架受到了熱烈的歡迎，但是我們仍然有很多工作要做。Rajah 說：「在後期階段，模式框架將針對不同的行業進行實施措施的細化。」新加坡還將與世界經濟論壇的第四次工業革命中心合作中進一步發展模式框架。」 Yeong 說:「我們希望將其推廣至全球。」 人工智慧的浪潮引起了全球的熱議，越來越多的國家提升了對於人工智慧的關注度，從而引發了人工智慧人才的迫切需求。作為新加坡及東南亞首個專注於人工智慧學的專業研究生課程，新加坡管理大學信息系統學院 MITB-AI 課程課程涵蓋完善的 AI 知識體系、技術能力和管理策略等，培養能夠構建 AI 工具並運用算法的學生來解決業務問題，滿足當今市場需求，為企業帶來更多的優秀人才。 **7月17日（星期三），新加坡管理大學商業信息技術碩士 （人工智慧）課程學術總監戴冰天教授將舉辦本年度第二次線上說明會，為同學們深度解讀人工智慧課程，錯過上一次的同學抓緊本次機會，掃描下方二維碼，添加小新，小新將在活動開始前建群哦～** ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512086.avif?1589867799) ![SMU 活動丨新加坡人工智慧監管模式框架深度解讀——新加坡管理大學 MITB](https://www.shicheng.news/images/image/1551/15512087.avif?1589867799)