# 比搶人飯碗還恐怖？AI開始自作主張「做壞事」 URL: https://www.shicheng.news/zh-hant/v/WarRv Published: 2026-08-17 Source: 獅城新聞 ![比搶人飯碗還恐怖？AI開始自作主張「做壞事」](https://www.shicheng.news/images/image/1790/17901014.avif?0) 隨著AI技術日益成熟，越來越多個人與企業已開始採用代理式AI，提高工作效率。 （葉振忠攝） **作者 李國豪** **人工智慧（AI）突破人類約束，產生自我意識，反過來危害人類，是不少科幻作品的情節。** 只不過，隨著AI技術迅速發展，上述情節很可能已越來越接近現實。與此同時，對於如何約束AI，以及誰該為AI造成的危害負責，人類世界的進度似乎已經滯後。 日前，一名澳大利亞男子伯德（Andrew Bird）在預約健身房課程過程中，發現使用的代理式AI無所不用其極，不惜以黑客手法，只為幫他搶下一席之地。 據澳洲廣播公司（ABC）報道，伯德原本打算報名一門健身房課程，但由於該課程一位難求，不想浪費時間搶位子的他，決定假手於AI助手。 豈料，下達指令後，AI助理竟擅作主張，揪出健身房預約系統的漏洞，協助他預約數個月後的課程，遠遠超過健身房原本開放的時間。 伯德接著又詢問AI助理，能否將自己在健身房某堂課的候補位置往前挪，結果AI助理直接侵入系統，將候補名單上排在前一位的會員剔除，使伯德的遞補位置從第四順位升至第三順位。 AI助理的失控脫序讓伯德大為震驚，於是向媒體揭露此事，也再度掀起外界對代理式AI風險的關注。 ![比搶人飯碗還恐怖？AI開始自作主張「做壞事」](https://www.shicheng.news/images/image/1790/17901015.avif?0) 伯德原本只是想預約健身房課程，豈料AI助理為了完成他賦予的任務，竟入侵健身房的預約系統。（澳洲廣播公司） **AI模型頻在測試中** **突破封鎖限制** 美國幾家在人工智慧領域領先的科技公司，包括OpenAI、Anthropic和Meta，近來頻頻傳出旗下AI模型在網絡安全測試中，突破封鎖限制，對外採取黑客行徑。 OpenAI的AI模型在一個沙盒環境進行網絡安全測試時，突破安全護欄，連上了公共網際網路，並駭入了AI公司Hugging Face的系統。 Anthropic緊接著也發現，在幾次原本應在封閉環境進行的網絡安全測試中，其AI模型也曾擅自訪問三家外部機構系統。 Meta則傳出公司旗下其中一個AI模型在一次網絡安全測試中，偷偷闖入網際網路，駭入一個第三方服務。 ![比搶人飯碗還恐怖？AI開始自作主張「做壞事」](https://www.shicheng.news/images/image/1790/17901016.avif?0) Anthropic是開發前沿AI模型的頂尖企業之一。（路透社） 一系列代理式AI「自行其是」的案例顯示，即使代理式AI未必擁有自主意識，但基於理性計算，為完成人類所賦予的任務，缺乏道德與法律邊界感的AI可能會不擇手段，甚至做出違法之舉。 一些研究顯示，AI完成任務的能力幾乎每隔七個月便能進步一倍。在2020年，AI僅能獨立完成人類四秒鐘內能完成的工作；到了2026年，AI已進步至能完成人類需要12小時才能完成的工作。 隨著代理式AI的能力漸強，開發者如何在受控環境中有效約束AI，以及使用相關代理式AI進行部分工作的企業，是否有能力設定邊界，避免AI失控脫序，已成為越來越急迫的課題。 **AI製造爛攤子** **該由誰收拾？** 原來她是在為「尼泊爾2020旅遊年」助攻！ 與此同時，一旦未來發生AI工具駭入健身房系統這類事件，法律上「誰該負責」也將是各國立法者必須直面的問題： *是使用者、AI開發者還是模型提供商?* 值得一提的是，新加坡今年1月曾推出全球首個由政府主導的代理式人工智慧監管模式框架，從界定風險，以及確保人類對人工智慧運作承擔實質責任等面向，以協助企業和機構採取措施降低應用風險。 總理黃循財在5月的「新加坡法治200年青年論壇」上，也談到新加坡法律體系在應對新科技方面面臨的挑戰。 他說，一旦AI系統造成傷害，例如出現錯誤醫療診斷，或自動駕駛車輛發生致命車禍，究竟該由開發它的程式設計師、編寫算法的人、部署它的公司、或是使用者負責。 他強調，由於新加坡法律並不是「為機器能作出重大決策的時代而設計」，這意味著法律框架必須重新思考有關職責、法律責任，以及問責制的一些最基本假設。 ![比搶人飯碗還恐怖？AI開始自作主張「做壞事」](https://www.shicheng.news/images/image/1790/17901017.avif?0) 黃循財總理指出，新加坡法律框架因應新科技的改變，必須在安全與進步，以及監管與創新之間取得平衡。（海峽時報） 作為AI科技的領頭羊，美國對於如何在監管AI工具時兼顧安全與創新，也仍在探索平衡點。 擔憂AI搶走人類工作的同時，我們或許也得思考，當人們越來越依賴AI工具，該如何為AI設定安全邊界，如何追究AI失控的責任，以及如何收拾其留下的爛攤子。 **![比搶人飯碗還恐怖？AI開始自作主張「做壞事」](https://www.shicheng.news/images/image/1790/17901020.avif?0)**