# 反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？ URL: https://www.shicheng.news/zh-hant/v/3xzq2 Published: 2023-05-05 Source: 獅城新聞 ![反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？](https://www.shicheng.news/images/image/1721/17212373.avif?1683205216) AI科技的飛速發展讓人乍喜還憂。（路透社） **作者 李國豪** **要**說當今顯學，人工智慧（AI）絕對榜上有名。 自去年底，生成式人工智慧聊天機器人「ChatGPT」橫空出世，對於AI的討論便不曾止息。 人們像發現新大陸一樣，饒有興致地將各種難題拋給ChatGPT，但隨著ChatGPT愈來愈顯示出「能人所不能」的能耐，人們也從一開始的興趣盎然，逐漸變得憂心忡忡： ***既要擔心工作被AI搶走，又要擔心AI帶來真假難辨的信息，更有甚者，還得擔心假以時日AI變得比人類聰明，最終反噬人類社會。*** ![反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？](https://www.shicheng.news/images/image/1721/17212374.avif?1683205216) ChatGPT的問世，刷新了世人對AI能力的認知。（路透社） 被譽為「AI教父」的電腦科學家辛頓（Geoffrey Hinton）近日接受《紐約時報》訪問時毫不諱言，AI的進步將對「社會和人類構成極大風險」。 包括特斯拉老闆馬斯克等在內的逾千位專家也聯署呼籲暫停開發AI系統，以便有時間確保這項科技是安全的。 此外，據外媒報道，在AI技術發展最旺盛的美國，政府當局決定不再坐以待斃。以美國副總統哈里斯為首的高級官員將與谷歌、微軟、OpenAI、Anthropic等科技公司的高管會面，會談內容預計將包含呼籲相關公司確保AI產品安全性等課題。 在AI火速發展且頻頻刷新人們認知之際，對於AI究竟該限制還是該放任？該中止其發展，還是採取比較平衡的規管，人們或許可從以下三大面向加以探討。 **一、AI會不會搶走所有人類的工作？** ***「AI會不會搶走我的工作」？*** 相信這是大部分人見識AI之強大後心中冒出的第一個念頭，畢竟AI已開始展現出[取代人力](http://mp.weixin.qq.com/s?__biz=Mzg3MDIwOTEwNw==&mid=2247590237&idx=4&sn=d4c062df31cb38775047779b5b82ab4b&chksm=ce926261f9e5eb77f1c64f72e71b68b7370e723c7f0cc70fed181f7fb34b99e5914a35de66e7&scene=21#wechat_redirect)的能耐。 根據世界經濟論壇最新發行的未來工作研究報告，全球在未來五年恐怕將有多達23%的工作消失，而類似ChatGPT這類的生成式AI工具將取代大量人力。 最新的例子是國際商業機器公司（IBM）的執行長克里希納（Arvind Krishna）在周一（1日）宣布，該公司未來幾年將暫停招聘人力資源等後勤部門人員，原因是這類工作「可以被AI勝任」，單是在IBM，這類未來恐被AI取代的工作崗位就有可能多達7800個。 AI導致人類失業，不再是危言聳聽。 新加坡副總理黃循財在勞動節集會獻詞中也強調，隨著AI算法越來越精進，人們的工作將迎來翻天覆地的改變，一些現有的技能或許將被淘汰，國人必須迎合AI的發展趨勢，學習新技能。 這番論調也是全球社會應對AI崛起的主流說法，但這種說法必須打上問號，畢竟哪些職業在AI時代仍有必要，目前都還僅是相對抽象的概念，而AI科技的發展速度，更讓人無法斷定AI的極限究竟在哪裡。 沒人說得准，一旦放任AI發展，原本還被認為不易被取代的工作，是否會被以驚人速度發展的AI取而代之。 在這種情況下，我們是否還應無止盡地讓AI發展？抑或是適時划下一道底線，讓情勢不至於演變成所有人都無工可做？ ![反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？](https://www.shicheng.news/images/image/1721/17212375.avif?1683205216) 黃循財在勞動節集會提及AI發展對未來工作性質可能帶來的改變。（聯合早報） **二、AI加劇人類社會真假難辨的現象** 同樣讓人憂心的是，AI領域或將成為散播詐騙與錯誤信息的溫床。 從以假亂真的AI生成圖，再到真假難辨的信息，AI某種程度上已開始侵蝕人類社會的信任基礎。 例如早前德國一家雜誌用AI生成「F1車神舒馬克專訪」的惡趣味，便凸顯了AI可能帶來的道德風險。 安全隱私風險則是生成式AI的另一隱患，這包括了對個人敏感數據的收集與使用。 韓國科技大廠三星電子日前以員工「不當使用」AI科技為由，禁止員工在公司電腦使用ChatGPT等生成式AI服務便是一例。 在三星之前，包括高盛（Goldman Sachs）等重要金融公司也都推出了類似禁令。 AI的泛濫，是否造成人類社會陷入「假作真時真亦假」的混沌狀況，不可不察。 **三、AI最終凌駕人類？** 最令人擔心的是，AI的智慧有沒有可能凌駕於人腦之上，最終反噬人類社會？ 在1984年《魔鬼終結者》（Terminator）和2004年《機械公敵》（I, Robot）等科幻電影中，人類研發的人工智慧都因產生了自我智能而與人類為敵，意圖使人類滅絕。 讓人不寒而慄的是，科幻電影的場景在當今AI技術的火速發展下，恐怕已非天方夜譚。 「AI教父」辛頓直言，如今的AI和五年前相比，其差異及成長「真的很嚇人」。 他說，由於AI能透過分析巨量數據學習到令人無法預測的行為，他擔心長此以往所謂的「殺人機器」恐將成為現實。 他還強調，他認為現階段人們沒有辦法預防「壞人利用AI來做壞事」。 ![反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？](https://www.shicheng.news/images/image/1721/17212376.avif?1683205215) 人工智慧反噬人類社會是不少科幻電影的題材。（《機械公敵》劇照） 各家科技公司眼見AI有利可圖，競相投入相關領域，有競爭就有進步，這是自由市場的不變定律。可以預見，若無全球性的規範介入，AI超越人類智慧的日子恐怕不遠矣。 面對AI的飛速發展，我們或許該省思，AI所帶來的便利，是否是以剝奪某些人類存在的意義與價值作為代價？有沒有必要在人類自己都還不確定如何控管AI帶來的風險前，加以約束之？ ![反噬人類社會或不再是電影橋段，我們該不該約束AI的運用與發展？](https://www.shicheng.news/images/image/1721/17212377.avif?1683205215)