隨著AI技術日益成熟，越來越多個人與企業已開始採用代理式AI，提高工作效率。 （葉振忠攝）
作者 李國豪
人工智慧（AI）突破人類約束，產生自我意識，反過來危害人類，是不少科幻作品的情節。
只不過，隨著AI技術迅速發展，上述情節很可能已越來越接近現實。與此同時，對於如何約束AI，以及誰該為AI造成的危害負責，人類世界的進度似乎已經滯後。
日前，一名澳大利亞男子伯德（Andrew Bird）在預約健身房課程過程中，發現使用的代理式AI無所不用其極，不惜以黑客手法，只為幫他搶下一席之地。
據澳洲廣播公司（ABC）報道，伯德原本打算報名一門健身房課程，但由於該課程一位難求，不想浪費時間搶位子的他，決定假手於AI助手。
豈料，下達指令後，AI助理竟擅作主張，揪出健身房預約系統的漏洞，協助他預約數個月後的課程，遠遠超過健身房原本開放的時間。
伯德接著又詢問AI助理，能否將自己在健身房某堂課的候補位置往前挪，結果AI助理直接侵入系統，將候補名單上排在前一位的會員剔除，使伯德的遞補位置從第四順位升至第三順位。
AI助理的失控脫序讓伯德大為震驚，於是向媒體揭露此事，也再度掀起外界對代理式AI風險的關注。
伯德原本只是想預約健身房課程，豈料AI助理為了完成他賦予的任務，竟入侵健身房的預約系統。（澳洲廣播公司）
AI模型頻在測試中
突破封鎖限制
美國幾家在人工智慧領域領先的科技公司，包括OpenAI、Anthropic和Meta，近來頻頻傳出旗下AI模型在網絡安全測試中，突破封鎖限制，對外採取黑客行徑。
OpenAI的AI模型在一個沙盒環境進行網絡安全測試時，突破安全護欄，連上了公共網際網路，並駭入了AI公司Hugging Face的系統。
Anthropic緊接著也發現，在幾次原本應在封閉環境進行的網絡安全測試中，其AI模型也曾擅自訪問三家外部機構系統。
Meta則傳出公司旗下其中一個AI模型在一次網絡安全測試中，偷偷闖入網際網路，駭入一個第三方服務。
Anthropic是開發前沿AI模型的頂尖企業之一。（路透社）
一系列代理式AI「自行其是」的案例顯示，即使代理式AI未必擁有自主意識，但基於理性計算，為完成人類所賦予的任務，缺乏道德與法律邊界感的AI可能會不擇手段，甚至做出違法之舉。
一些研究顯示，AI完成任務的能力幾乎每隔七個月便能進步一倍。在2020年，AI僅能獨立完成人類四秒鐘內能完成的工作；到了2026年，AI已進步至能完成人類需要12小時才能完成的工作。
隨著代理式AI的能力漸強，開發者如何在受控環境中有效約束AI，以及使用相關代理式AI進行部分工作的企業，是否有能力設定邊界，避免AI失控脫序，已成為越來越急迫的課題。
AI製造爛攤子
該由誰收拾？
原來她是在為「尼泊爾2020旅遊年」助攻！
與此同時，一旦未來發生AI工具駭入健身房系統這類事件，法律上「誰該負責」也將是各國立法者必須直面的問題：
是使用者、AI開發者還是模型提供商?
值得一提的是，新加坡今年1月曾推出全球首個由政府主導的代理式人工智慧監管模式框架，從界定風險，以及確保人類對人工智慧運作承擔實質責任等面向，以協助企業和機構採取措施降低應用風險。
總理黃循財在5月的「新加坡法治200年青年論壇」上，也談到新加坡法律體系在應對新科技方面面臨的挑戰。
他說，一旦AI系統造成傷害，例如出現錯誤醫療診斷，或自動駕駛車輛發生致命車禍，究竟該由開發它的程式設計師、編寫算法的人、部署它的公司、或是使用者負責。
他強調，由於新加坡法律並不是「為機器能作出重大決策的時代而設計」，這意味著法律框架必須重新思考有關職責、法律責任，以及問責制的一些最基本假設。
黃循財總理指出，新加坡法律框架因應新科技的改變，必須在安全與進步，以及監管與創新之間取得平衡。（海峽時報）
作為AI科技的領頭羊，美國對於如何在監管AI工具時兼顧安全與創新，也仍在探索平衡點。
擔憂AI搶走人類工作的同時，我們或許也得思考，當人們越來越依賴AI工具，該如何為AI設定安全邊界，如何追究AI失控的責任，以及如何收拾其留下的爛攤子。
