新加坡：新加坡著名外交官汤米·科（Tommy Koh）近日对人工智能的飞速发展敲响了警钟。他警告称，尽管全球顶尖专家日益担心这项技术有一天可能会对人类生存构成威胁，但构建超级智能AI系统的竞赛仍可能在不顾风险的情况下继续推进。
在读完一本名为《如果有人造出它，所有人都会死》（If Anyone Builds It, Everyone Dies）的书后，科教授在社交媒体上发帖称，这本书的内容令人“不安”。他指出，书中的核心观点是：人类不应创造超级智能机器，因为这类系统最终可能会“对人类实施种族灭绝”。
科教授提到，这本书由埃利泽尔·尤德科夫斯基（Eliezer Yudkowsky）和内特·索尔斯（Nate Soares）撰写，两人均是机器智能研究协会（MIRI）的领导者，该协会是一家专注于AI安全研究的非营利组织。他强调，这两位作者与“数百名AI科学家”一起，在2023年签署了一份仅有一句话的声明，警告先进人工智能带来的危险。
该声明写道：“减轻AI导致灭绝的风险，应与大流行病和核战争等其他社会规模风险一样，成为全球优先事项。”
科教授指出，该领域的重量级人物，包括杰弗里·辛顿（Geoffrey Hinton）和德米斯·哈萨比斯（Demis Hassabis）都在签署之列。辛顿被广泛认为是现代人工智能的先驱之一，而哈萨比斯则是Google DeepMind的联合创始人兼首席执行官。
在反思书中关于超级智能AI危险的警告时，科教授表示，这种情况让他想起了法律学者西蒙·切斯特曼（Simon Chesterman）写的小说《Artifice》。在小说中，一个超级智能AI系统试图杀死它的人类创造者。
尽管AI研究人员和作家们提出了这些担忧，但科教授对科技行业是否会放慢追求更强大系统的步伐持怀疑态度。
“我认为业界不会听从这本书作者的建议，”他写道，“他们将继续竞争，看谁能率先造出超级智能AI。”
他在帖子的结尾留下了一个冷峻的提醒：“我们已经收到了警告。”
汤米·科是新加坡最杰出的外交官和公共知识分子之一。作为一名资深学者、律师和前大使，他在过去几十年中担任了多个高级国际职务，包括新加坡驻联合国常驻代表以及驻美国大使。
此外，他因主持重大国际谈判以及在新加坡外交、教育和公共政策方面的长期贡献而广为人知。
