# 新加坡推出全球首个生成式人工智能治理框架，征求国际反馈 URL: https://www.shicheng.news/v/BWPYx Published: 2024-01-18 Source: 狮城新闻 新加坡推出全球首个生成式人工智能治理框架，征求国际反馈！ 新加坡作为一个人工智能的先驱者和领导者，一直致力于推动人工智能的发展和治理，为全球提供有益的经验和参考。最近，新加坡在瑞士达沃斯世界经济论坛年会上，提出了一个新的生成式人工智能治理框架，并寻求国际反馈。 ![新加坡推出全球首个生成式人工智能治理框架，征求国际反馈](https://www.shicheng.news/images/image/1737/17374259.avif?0) 这是全球首个针对生成式人工智能的治理框架，也是新加坡在人工智能治理领域的又一重要贡献。 01** 为何需要治理框架 如何在保障生成式人工智能的创新和效益的同时，防止其滥用和误用，是一个亟待解决的问题，目前，全球对生成式人工智能的治理和监管还处于初级阶段，缺乏统一的标准和原则。 新加坡在 2019 年就推出了全球首个人工智能治理框架，为传统人工智能提供了详细的指导和建议，该框架以两个基本原则为指导，即决策过程的可解释性、透明性和公平性，以及人工智能系统的以人为本和保护人类福祉和安全。 该框架得到了国际社会的广泛认可和赞誉，也为不同行业和部门提供了参考和借鉴。 新加坡通信和信息部长杨莉明正在瑞士达沃斯参加世界经济论坛年会，她在接受《海峡时报》采访时表示：“人工智能治理不能仅在国家层面进行，我们对全球对话的贡献是我们选择世界经济论坛作为更新框架和寻求国际投入的启动平台的部分原因。 这个领域还处于新生阶段，我们相信，为了取得进展，必须有人提供一些东西，将其摆到桌面上，然后全球对话才能进一步丰富。” 人工智能验证基金会（AIVF）和信息通信媒体发展局（IMDA）周二（1月16日）在一份联合新闻稿中声明：“有了生成式人工智能，有必要更新早期的模型治理框架，以全面解决出现的新问题。” 该声明中包含更多使用生成式人工智能相关风险的讨论文件，以及为生成式人工智能模型的安全评估和人工智能产品的持续评估测试提供指导的工作。 **传统人工智能和生成式人工智能有什么区别？** 随着技术的快速发展，很难区分不同类型的人工智能。传统人工智能通常基于一组特定的数据智能地执行特定任务。 虽然这些系统能够学习固定输入并做出决策，但它们不能创造任何新的东西，只是根据现有数据分析和预测结果。Siri 等语音助手和 Netflix 或流媒体服务上的推荐引擎是传统 AI 的例子。 然而，生成式人工智能创造了一些新的东西，随着生成对抗网络（GAN）的引入，生成式人工智能可以创建新的图像、视频和音频。ChatGPT 是 OpenAI 的病毒式聊天机器人，是生成式 AI 的一个例子。 据《福布斯》报道，传统人工智能和生成式人工智能之间的主要区别在于它们的能力和应用。传统的人工智能可以分析数据并告诉你它看到了什么，但生成式人工智能可以使用相同的数据来创造全新的东西。 该提案旨在为生成式人工智能问题提出一种“系统和平衡的方法”，同时促进创新，并让政策制定者和研究界等所有关键利益相关者“共同尽自己的一份力量”。 03 培育可信生态网络 新加坡资讯通信媒体发展局（IMDA）和个人数据保护委员会（PDPC）都表示：生成式人工字能具有“巨大的变革潜力”，超过了传统人工智能所达到的水平，但这带来了风险。 “虽然它仍然是一个动态发展的领域，但全球越来越一致地认为，需要一致的原则来创造一个可信的环境——一个使最终用户能够自信、安全地使用生成式人工智能的环境。” ![新加坡推出全球首个生成式人工智能治理框架，征求国际反馈](https://www.shicheng.news/images/image/1737/17374260.avif?0) 所以在生成式人工智能的场景不断发展的背景下，新加坡在原有框架的基础上，由IMDA和PDPC共同开发了一个新的生成式人工智能治理框架，称为 MGF-GenAI。 新框架非常全面，确定了人工智能治理的九个关键维度，分别是： 问责制：明确人工智能系统的责任主体和责任分配，建立有效的监督和审查机制。 安全性：确保人工智能系统的可靠性、鲁棒性和抵御攻击的能力，防止故障和损害。 可解释性：提供人工智能系统的决策逻辑和依据，使利益相关者能够理解和信任其输出。 透明度：披露人工智能系统的相关信息，包括目的、功能、数据来源、限制和风险等。 公平性：避免人工智能系统的偏见和歧视，保障不同群体的利益和权利。 人性化：尊重人类的价值观、尊严和自主性，保持人类在人工智能系统中的主导地位。 隐私：保护个人数据的安全和保密，遵守相关的法律和道德规范。 社会责任：评估人工智能系统对社会和环境的影响，促进社会福祉和可持续发展。 测试和保证：对人工智能系统进行全面和持续的测试和评估，确保其符合预期的目标和标准。 该框架旨在促进政策制定者、行业和研究界之间的国际对话，以实现全球可信的生成式人工智能发展。该框架预计将于 2024 年中期完成，届时将与 2023 年 12 月启动的国家人工智能战略 2.0 同步推进。 **04** 汲取经验，塑造新框架 虽然新加坡并不是唯一一个对全球讨论做出贡献的国家，但一直走在最前沿，该国处理人工智能治理的实际方式（包括开发 AI verify 等测试工具包）使其被认为是务实且具有前瞻性的国家。 AI verify 是一个工具包，旨在帮助组织根据国际公认的人工智能治理原则（例如安全性、可重复性和透明度）验证其人工智能系统的性能。AI 验证基金会由 IMDA 于 2023 年成立，其成员包括谷歌、IBM、微软和 Salesforce 等公司。 当被问及从原始框架中汲取的经验教训如何塑造新框架时，杨莉明表示，当 2019 年版本推出时，金融服务和医疗保健等不同行业都在此基础上开发了针对它们的特定内容。MGF-GenAI 可能会走类似的道路，因为不同的部门将以自己的方式使用生成式人工智能，并且必须找到最适合其情况的治理表达方式。 **05** 积极提高全球对新框架的认知 ![新加坡推出全球首个生成式人工智能治理框架，征求国际反馈](https://www.shicheng.news/images/image/1737/17374261.avif?0) 图源：ST 关于新加坡将如何提高全球对 MGF-GenAI 的认识，杨莉明指出，新加坡积极参与人工智能的全球对话，如通过新加坡是其创始成员的全球人工智能合作伙伴关系等途径，新加坡和美国一直在努力寻找美国人工智能风险管理框架和新加坡治理框架之间的一致性领域。 美国对我们不仅已经开发了一个框架，而且还有一个与之配套的测试工具包非常感兴趣，我们也正在讨论著，完成协调后，对话将提交给国际标准制定机构，看看这两种模式之间的协调是否可以作为制定国际标准的基础，让更多国家可以参与其中。 杨莉明也表示：”我们正在采取这些步骤，以促进能够以负责任的方式实施人工智能的环境，人工智能安全是可以实现的。 通过这样做，我们希望为人工智能创新提供更坚实的基础。” 对于与传统人工智能相比，生成式人工智能的治理出现了一些潜在挑战，生成式人工智能用途将变得广泛，其使用方式仍在接受组织甚至政府的测试，因此很难判断具体是哪一种，这意味着现阶段的人工智能治理很大程度上仍停留在设定原则和确定更重要的层面。 **06** 用人工智能提升生产力，期待全球共识 关于这一框架和生成式人工智能的使用将如何影响就业和经济，杨莉明表示，人工智能工具的测试和验证是一个潜在的行业，可以从这一发展中成长起来。 新加坡看到的是一般技术，而不仅仅是技术，人工智能以三种方式影响劳动力——提高生产力、潜在的工作取代和工作恢复。新加坡的方法是增强对生产力的影响，使其尽可能广泛，同时通过培训民众接受新工作或因技术采用而增加的工作来最大限度地减少替代效应。 在去年 12 月宣布国家人工智能战略 2.0 时，副总理黄循财 (Lawrence Wong) 公布了通过培训本地人才和从海外招聘人才，将国家人工智能人才库增加两倍至 15,000 人的计划。他还谈到政府致力于为人工智能建立一个值得信赖的环境，并解决该领域的道德和伦理问题，例如人工智能是否适合代替人类做出决策。 他当时表示，各国政府现在必须在塑造人工智能方面发挥积极作用，这引发了更深刻的问题，新加坡将在不阻碍创新的情况下找到监管的务实平衡。 IMDA 在 1 月 16 日的声明中表示，虽然生成式人工智能仍然是一个动态发展的领域，但全球日益达成共识，需要一致的原则来创建一个可信的环境。这样，最终用户就可以自信、安全地使用生成式人工智能，同时为尖端创新留出空间。 IMDA 在谈到 MGF-GenAI 时表示，这一拟议框架旨在促进政策制定者、行业和研究界之间的国际对话，以实现全球可信发展。 ![新加坡推出全球首个生成式人工智能治理框架，征求国际反馈](https://www.shicheng.news/images/image/1737/17374262.avif?0)