新加坡：新加坡著名外交官湯米·科（Tommy Koh）近日對人工智慧的飛速發展敲響了警鐘。他警告稱，儘管全球頂尖專家日益擔心這項技術有一天可能會對人類生存構成威脅，但構建超級智能AI系統的競賽仍可能在不顧風險的情況下繼續推進。
在讀完一本名為《如果有人造出它，所有人都會死》（If Anyone Builds It, Everyone Dies）的書後，科教授在社交媒體上發帖稱，這本書的內容令人「不安」。他指出，書中的核心觀點是：人類不應創造超級智能機器，因為這類系統最終可能會「對人類實施種族滅絕」。
科教授提到，這本書由埃利澤爾·尤德科夫斯基（Eliezer Yudkowsky）和內特·索爾斯（Nate Soares）撰寫，兩人均是機器智能研究協會（MIRI）的領導者，該協會是一家專注於AI安全研究的非營利組織。他強調，這兩位作者與「數百名AI科學家」一起，在2023年簽署了一份僅有一句話的聲明，警告先進人工智慧帶來的危險。
該聲明寫道：「減輕AI導致滅絕的風險，應與大流行病和核戰爭等其他社會規模風險一樣，成為全球優先事項。」
科教授指出，該領域的重量級人物，包括傑弗里·辛頓（Geoffrey Hinton）和德米斯·哈薩比斯（Demis Hassabis）都在簽署之列。辛頓被廣泛認為是現代人工智慧的先驅之一，而哈薩比斯則是Google DeepMind的聯合創始人兼執行長。
在反思書中關於超級智能AI危險的警告時，科教授表示，這種情況讓他想起了法律學者西蒙·切斯特曼（Simon Chesterman）寫的小說《Artifice》。在小說中，一個超級智能AI系統試圖殺死它的人類創造者。
儘管AI研究人員和作家們提出了這些擔憂，但科教授對科技行業是否會放慢追求更強大系統的步伐持懷疑態度。
「我認為業界不會聽從這本書作者的建議，」他寫道，「他們將繼續競爭，看誰能率先造出超級智能AI。」
他在帖子的結尾留下了一個冷峻的提醒：「我們已經收到了警告。」
湯米·科是新加坡最傑出的外交官和公共知識分子之一。作為一名資深學者、律師和前大使，他在過去幾十年中擔任了多個高級國際職務，包括新加坡駐聯合國常駐代表以及駐美國大使。
此外，他因主持重大國際談判以及在新加坡外交、教育和公共政策方面的長期貢獻而廣為人知。
