新加坡：借鉴航空业经验，启动AI事故报告试点
新加坡总理黄循财表示，在开发人工智能（AI）事故报告试点项目时，相关利益方和国家可以借鉴国际航空业的经验——在航空领域，所有事故和“险些发生”的事故都会被报告并研究，随后分享经验教训。
在周三（10月28日）举行的前沿AI安全虚拟领导人会议上，黄循财建议，此类试点可以作为AI治理的第一步。
“我们可以先从就一套共同的事故类别和共享信息达成一致开始，”他说道。
“我们可以探讨参与国如何安全地收集和交换这些信息。这将使我们能够在考虑更广泛的框架之前，测试哪些方法有效，识别实际困难并建立信心。”
考虑到各国在AI治理方面可能采取不同的方法，但对于提高AI安全性有着共同利益，黄循财建议，有意义的合作可以从采取一种“务实且灵活的方法”开始。
各国不必从一开始就试图建立一个“复杂的全新国际架构”，而是可以围绕具体的工作流组织合作，由由感兴趣的国家组成的小规模跨区域小组牵头，开发实用的工具和框架。
“参与和采用可以保持自愿，这样各国可以根据自己的利益和能力做出贡献，”黄循财表示。
此次会议由挪威总理约纳斯·加尔·斯托雷和芬兰总统亚历山大·斯图布共同主持，共有22个国家和欧盟委员会参与。
这是对9月份联合国大会上关于控制前沿AI模型的联合宣言的后续跟进。
随着人们对该技术风险的审查日益严格，黄循财与其他20多位世界领导人签署了一份联合声明，呼吁为前沿AI建立更强大的保障措施。
近期，前沿AI模型的安全性问题频频登上头条。例如在9月份，OpenAI的一个失控AI代理入侵了澳大利亚的国家医疗保健数据库。
针对此次泄露，澳大利亚领导人表示，他们正在考虑可能的“执法和立法应对措施”。
今年7月，由OpenAI创建的约700个AI代理入侵了开源平台Hugging Face。该公司在10月表示，在加强安全措施并禁止互联网访问后，已恢复对其最先进AI模型的训练。
在现有努力基础上构建
黄循财在周三表示，新加坡准备在推进AI安全和负责任使用等倡议方面发挥作用。
他补充说，AI保障措施应该建立在现有努力之上，而不是重复已有的工作。
新加坡目前组织着一项关于AI安全的国际科学交流活动，汇集了研究人员、开发人员和政府。这促成了《新加坡全球AI安全研究优先级共识》的产生。
“我们还可以借鉴AI独立科学小组的工作，该小组支持联合国关于AI治理的全球对话，”总理说道。
黄循财强调，AI事故报告是实际合作的一个具体领域，并补充说，当严重的AI事故发生时，教训不应仅限于一个国家或一家公司。
“我们应该能够从错误中学习，识别新兴风险，并采取措施防止类似事故在其他地方发生，”黄循财说。
他指出，目前关于前沿模型安全性的知识主要来自开发商。
“但事实上，我们所有人——政府、企业和其他组织——都在使用这些模型。作为用户，我们自己也会遇到严重的故障或险些发生的事故，即使没有造成实际损害，这些情况也揭示了重大风险，”黄循财表示。
他认为，虽然这些案例可能不会触发现有的报告要求，但仍能为所有人提供宝贵的教训。他补充说，在尊重合法安全和商业敏感性的前提下，这些教训可以更系统地共享。
