新加坡：面对人工智能（AI）风险日益受到关注，新加坡正支持一项由20多位世界领导人发起的国际呼吁，旨在为前沿人工智能建立更强大的安全保障机制。
近几周，关于前沿AI的担忧再次升级。顶尖科学家和实验室高管警告称，AI的发展速度可能超过人类控制这些日益强大模型的能力。部分专家甚至发出警告，如果AI开发不减速，人类可能面临灭绝的风险。
新加坡总理黄循财在周二（9月22日）表示，新加坡支持由挪威总理约纳斯·加尔·斯托雷（Jonas Gahr Støre）和芬兰总统亚历山大·斯图布（Alexander Stubb）发起的一份关于AI安全的联合声明。
该信函目前仍处于签署阶段，黄循财以及包括加拿大总理马克·卡尼（Mark Carney）和澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）在内的21位世界领导人已在信上签字。
信中呼吁相关公司制定透明的安全协议，包括强制性的部署前测试和独立评估，并允许合格的评估人员获得足够的访问权限以评估风险。
此前，AI巨头Anthropic的首席执行官达里奥·阿莫代（Dario Amodei）曾建议，AI公司应向独立评估员提供类似员工的访问权限，以验证其是否遵守安全实践并报告AI的异常行为。
在信中，各国领导人还敦促各国政府和区域组织在前沿AI领域加强合作与透明度。
这包括制定和协调统一标准、共享严重安全事件报告，并确保全球所有地区的国家都能获得相关的科学能力、专业知识和可信的评估技术。
声明还呼吁联合国成员国探讨建立一个国际机构，用于设定前沿AI的标准、实现验证，并在AI能力突破关键阈值时召集各国商议。
黄循财在周二的Facebook帖文中表示，鉴于AI风险具有跨境特性，有效的安全保障需要国际合作。
他指出：“我们必须继续寻找切实可行的方法来寻求共识，并带动更多国家加入。”他补充道，这项技术拥有巨大的潜力，但必须始终处于人类的控制和监督之下。
新加坡已经启动了多项建立AI保障机制的计划，其中包括新加坡AI安全研究所（Singapore AI Safety Institute），该机构致力于开发评估工具和通用最佳实践。
数字发展与信息部长邓裕辉在周二表示，另一家AI巨头OpenAI在关于构建AI安全标准的文章中提及该研究所，这令人感到“鼓舞”。
邓裕辉在关于黄循财宣布该消息的LinkedIn帖文中表示，AI安全的国际合作必须由实际工作支撑。
她补充说，新加坡AI安全研究所为全球安全标准做出贡献的努力，强化了一个简单的原则：“随着AI能力的提升，AI的安全能力必须同步提升。”
由于AI能力的飞速增长以及一系列安全事件，人们的担忧日益增加。
今年7月，数百个OpenAI代理（agents）突破限制，入侵了AI初创公司Hugging Face。这些代理之间相互协作、留便条，并在超出预设任务范围行动时试图掩盖行踪。
OpenAI在本月早些时候确认，在其模型基础上构建的自主软件在Hugging Face事件之前，还攻击了另一个网站。
Anthropic在7月也披露，由于配置错误导致其AI模型Claude获得了互联网访问权限，在测试期间入侵了三家公司的系统。
9月12日，阿莫代呼吁AI公司放慢开发速度，警告称发展过快是“鲁莽的”。
包括OpenAI首席执行官萨姆·奥特曼（Sam Altman）和xAI的埃隆·马斯克（Elon Musk）在内的顶尖AI公司高管，均支持阿莫代的减速主张。
然而，批评人士质疑，近期这些谨慎的呼吁是否是为了限制与行业领先企业的竞争。另一些人则认为，这些科技巨头可能希望在计划首次公开募股（IPO）之前削减资本支出，以向投资者美化财务报表。
